首页 > 财经生活 > 财经生活 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

财经生活更多>>

于柯鑫谈沃尔沃安全与创新:插混家族和“安全感”战略引领未来 “非主流年度车型”我选这10部,回顾2024车企们的得与失 问鼎中国-2024汽车新锐全媒体联盟车市评选奖项揭晓 史上最快 AMG GT 63 S E PERFORMANCE售228.55万 开年见喜 称心如奕!东风奕派eπ007如奕版迎春上市 埃安UT预售:比预期低1万,开启8万清场模式 奇瑞iCAR V23再推智驾版,售价11.98-14.98万元,能提升销量? 每一台大众都出众,上汽大众大众品牌再夺合资销冠 5000万三主摄+5500mAh+IP69防水,vivo影像旗舰顶配降到2873元 荣耀Magic7 Pro使用一个月,当初花了5699元,现在觉得值吗? 一加Ace 5标准版首发全新6400mAh电池 荣耀Magic7系列“大王影像”实测体验:弥补手机长焦硬件不足 荣耀GT全面评测:2199元打造游戏手机新标杆 诺基亚技术取得用于视频编解码和解码的装置、方法和计算机程序专利 索尼公司取得用于自适应带宽操作的方法和装置专利 都是天玑7300线下机,但价格相差五六百,OPPO给红米上了一课 智己L6和小米SU7,这两台车,该怎么选? 中端刚旗舰,小米这新机太炸了 华为12月还将发布两款新产品 畅享系列新机或30日亮相 oppo平板哪款好?推荐3款平板型号,价格亲民好口碑,性能解读! 2024年内蒙古社会主义学院选聘5人公告 安徽马鞍山和县人力资源和社会保障局招聘劳务派遣制工作人员公告 2024年安徽博物院英文讲解员招聘公告 浙江宁波北仑区人武部招聘民兵教练员公告 浙江绍兴市越城区文化广电旅游局、绍兴滨海新区管委会联合招聘17人公告 2025年山东威海市文登区融媒体中心招聘事业单位工作人员3人简章 江苏苏州市立达中学教育集团赴高校招聘2025年应届优秀毕业生10人公告 广东江门台山市市场监督管理局招聘合同制工作人员公告 2024年广东韶关市卫生健康局直属事业单位招聘222人公告 2024年四川内江市东兴区服务外包发展中心选调事业单位工作人员2人公告