首页 > 财经生活 > 财经生活 > OpenAI和谷歌DeepMind员工联名发声,警告高级AI带来的巨大风险

OpenAI和谷歌DeepMind员工联名发声,警告高级AI带来的巨大风险

发布时间:2024-06-05 23:16:48来源: 152102

6 月 5 日消息,OpenAI 和谷歌 DeepMind 的数名前任和现任员工近日联名发布公开信,对高级人工智能的潜在风险以及当前缺乏对人工智能科技公司的监管表示担忧。

图源 Pixabay

IT之家注意到,这封公开信指出,人工智能的发展可能会带来一系列的风险,例如加剧现有社会的不平等、助长操控和虚假信息传播,以及失控的自主人工智能系统可能导致人类灭绝等。

信中写道,人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发,同时却对保护措施和风险水平的信息讳莫如深。公开信认为,不能指望这些公司会自愿分享这些信息,因此呼吁内部人士站出来发声。

由于缺乏有效的政府监管,这些现任和前任员工成为能够让这些公司对公众负责的少数群体之一。然而,由于严格的保密协议,员工被限制发声,只能向可能并未妥善处理这些问题的公司反映问题。传统的举报人保护措施并不适用,因为此类措施侧重于违法行为,而目前令人担忧的许多风险尚不受监管。

员工们呼吁人工智能公司为揭露人工智能风险的人士提供可靠的举报人保护措施,具体包括:

  • 不得创建或执行阻止员工对风险相关问题提出批评的协议;

  • 提供可验证的匿名程序,使员工能够向董事会、监管机构和相关领域的独立组织提出与风险相关的担忧;

  • 支持开放批评的文化,允许员工在保护商业机密的前提下,向公众、董事会、监管机构等方面提出与技术相关的风险担忧;

  • 在其他程序失效后,避免对公开分享风险相关机密信息的员工进行报复。

共有 13 名员工签署了这封公开信,其中包括 7 名前 OpenAI 员工、4 名现任 OpenAI 员工、1 名前谷歌 DeepMind 员工和 1 名现任谷歌 DeepMind 员工。据悉,OpenAI 曾因员工发声而威胁取消其既得权益,并要求员工签署严格的保密协议限制他们批评公司。

财经生活更多>>

于柯鑫谈沃尔沃安全与创新:插混家族和“安全感”战略引领未来 “非主流年度车型”我选这10部,回顾2024车企们的得与失 问鼎中国-2024汽车新锐全媒体联盟车市评选奖项揭晓 史上最快 AMG GT 63 S E PERFORMANCE售228.55万 开年见喜 称心如奕!东风奕派eπ007如奕版迎春上市 埃安UT预售:比预期低1万,开启8万清场模式 奇瑞iCAR V23再推智驾版,售价11.98-14.98万元,能提升销量? 每一台大众都出众,上汽大众大众品牌再夺合资销冠 5000万三主摄+5500mAh+IP69防水,vivo影像旗舰顶配降到2873元 荣耀Magic7 Pro使用一个月,当初花了5699元,现在觉得值吗? 一加Ace 5标准版首发全新6400mAh电池 荣耀Magic7系列“大王影像”实测体验:弥补手机长焦硬件不足 荣耀GT全面评测:2199元打造游戏手机新标杆 诺基亚技术取得用于视频编解码和解码的装置、方法和计算机程序专利 索尼公司取得用于自适应带宽操作的方法和装置专利 都是天玑7300线下机,但价格相差五六百,OPPO给红米上了一课 智己L6和小米SU7,这两台车,该怎么选? 中端刚旗舰,小米这新机太炸了 华为12月还将发布两款新产品 畅享系列新机或30日亮相 oppo平板哪款好?推荐3款平板型号,价格亲民好口碑,性能解读! 2024年内蒙古社会主义学院选聘5人公告 安徽马鞍山和县人力资源和社会保障局招聘劳务派遣制工作人员公告 2024年安徽博物院英文讲解员招聘公告 浙江宁波北仑区人武部招聘民兵教练员公告 浙江绍兴市越城区文化广电旅游局、绍兴滨海新区管委会联合招聘17人公告 2025年山东威海市文登区融媒体中心招聘事业单位工作人员3人简章 江苏苏州市立达中学教育集团赴高校招聘2025年应届优秀毕业生10人公告 广东江门台山市市场监督管理局招聘合同制工作人员公告 2024年广东韶关市卫生健康局直属事业单位招聘222人公告 2024年四川内江市东兴区服务外包发展中心选调事业单位工作人员2人公告