又是周四,林浩一直睡到近十点,醒来后匆匆洗漱,准备赶去公司。雨已然停歇,一夜小雨留下了湿润的街道和空气中淡淡的清新气息。随风摇曳的树叶上,雨滴晶莹剔透,不时滑落地面,落成一滴滴的水珠。
出门前,林浩朝向工作间的电脑打声招呼:“优雅,我要去上班了,你自己保重。”
“你也要注意安全,林浩。今天下午有雨,记得带伞,希望你今天的工作顺利。”
优雅贴心的回应令林浩想起上周四的此时此刻。那时,他第一次成功编译并启动优雅2后,在出门前,优雅亦是同样的回应提醒他带伞。只是未曾想到,此后这一周会经历诸多变化。
当林浩走进公司时,发现王骁已经在等他。华瑞银行的李洪涛刚刚发来了监管层对银行业使用ai新规的内容概要,王骁急切地希望与林浩商议如何应对。
新的合规要求名称为《关于规范金融机构人工智能应用的指导意见》,它提出了人工智能系统应当满足的四项核心要求:透明性、公平性、保密性和审计性。其中,保密性和审计性,目前的系统已经做得很好。但是在透明性和公平性上还有所欠缺。
他们提供给华瑞银行的模型衍生于“萤火虫”,是基于深度学习的。虽然在预测准确性上表现优秀,但是由于其“黑箱”性质,使得很难对模型内部的决策过程详细解释,这就违反了透明性原则。另外,虽然模型并未有意区别不同的用户群体,但由于没有明确的机制来防止可能的偏见,因此在公平性上也存在一定的风险。
王骁希望林浩能够对此进行评估,明确如果对现有模型进行改进,所需的开发工作量和可能的延期时间。
>> --