北京时间: 2024-09-29 06:23:07 东京时间: 2024-09-29 07:23:07 纽约时间: 2024-09-28 18:23:07

科技

  • 阅读:3175

OpenAI加强内部监管 董事有否决管理层决定权利

image

人工智能公司OpenAI赋予公司董事权利,否决公司领导的决策,以进一步加强开发尖端科技的安全保障。

ChatGPT开发者OpenAI星期一(12月18日)发表一系列指引,阐明公司计划如何应对它最强大人工智能(AI)系统可能引起的极端风险。

在指引下,OpenAI只会在确定最新技术的安全性之后才会开始运用。公司也将成立一个顾问团队以审核安全报告,再转交公司高层和董事局。虽然公司领导负责做决策,董事局可推翻决定。

公司在总裁奥尔特曼短暂被罢免期间,市场焦点放在这家全球顶尖科技公司的董事局和管理层之间的权利平衡上。

OpenAI今年10月宣布成立“备灾小组”,并会持续评估它的AI系统在网安、化学、核子和生物威胁等四大范畴的表现,同时减低科技可能带来的任何危害。

具体来说,公司检查的是定义为:能造成上亿元经济损失,或导致许多个人受伤害或死亡的“灾难性”风险。

领导公司备灾小组的迈德里(Aleksander Madry)告诉彭博社,他的团队会每月提交报告给内部新成立的安全顾问团队,再由奥尔特曼与公司董事局分析团队呈交的建议。

迈德里说:“AI本身没有好坏,我们正在塑造它。”

他也希望,其他公司能利用OpenAI的指引来评估旗下AI模型的潜在风险。

今年4月,一群AI领域的领导和专家签署一份公开信,基于对社会有潜在风险理由,要求停止发展一套比OpenAI的GPT-4更有威力的人工智能系统。

最新资讯

3M财报亮眼股价飙升背后:业绩增长真相与未来不确定性深度剖析

近日,市场迎来了一则引人注目的消息:工业巨头3M公司(MMM.N)在本周五公布了其季度业绩报告,随后股价飙升至近两年来的

OpenAI今年将亏损50亿美元?

最近,外媒给OpenAI算了笔账,今年可能要血亏50亿美元。

塞纳河水质污染,巴黎奥运会紧急取消下水训练

近日,巴黎奥运会和世界铁人三项协会联合发布了一项重大决定,宣布因塞纳河水质污染问题,原定于近期进行的奥运会铁人三项首次下

巴黎袭警事件:恐怖阴霾下的冲击与反思

当地时间7月18日,法国巴黎发生了一起令人震惊的持刀袭警事件。

马来西亚宣布加入金砖国家的深层含义

近期,一则重大消息在国际舞台上引起轩然大波,马来西亚宣布加入金砖国家。

调查:五分一韩国学生过度依赖智能手机和互联网

调查发现,互联网和智能手机的使用干扰了韩国近五分之一学生的生活。