“失控”的5天
今年11月17日，总部位于美国旧金山的人工智能研究公司OpenAI突然宣布，阿尔特曼将不再担任公司首席执行官(CEO)并离开董事会，理由是他在与董事会沟通的过程中“不总是坦诚的”，董事会不再相信他有能力继续领导OpenAI。另外，公司联合创始人兼总裁格雷格·布罗克曼将不再担任董事会主席。布罗克曼随即宣布将离开公司。
现年38岁的阿尔特曼2015年参与创立OpenAI，该公司于2022年11月发布一款大语言模型ChatGPT，5天内注册用户就超过100万，阿尔特曼也被一些媒体称为“ChatGPT之父”。
OpenAI毫无征兆的高层震荡以及董事会的严厉措辞震惊了全球科技界。就在11月上旬，OpenAI举行了首届开发者大会，阿尔特曼向全球观众介绍了公司多款新产品。事发前的APEC会议上，他还与一些知名科技公司高管就人工智能的广阔前景侃侃而谈。
此后几天，这场高层震荡的一系列“反转”更令人始料未及。OpenAI宣布阿尔特曼离职后，公司投资者便尝试助其重返岗位。11月19日，阿尔特曼以访客身份来到OpenAI总部，与董事会就回归事宜谈判。他开出的条件之一是重组董事会，谈判最终不欢而散。
当日深夜，微软CEO萨蒂亚·纳德拉在社交平台上宣布，阿尔特曼、布罗克曼及其前同事们将加入微软，领导一个新的高级人工智能研究团队。微软是OpenAI的最大投资方，投资金额达130亿美元。公司770名员工几乎全员在一封信上签名，称如果阿尔特曼不能回到OpenAI，他们将辞职并加入微软的新团队。
11月21日深夜，OpenAI宣布，阿尔特曼将再度担任公司CEO，公司董事会也将被重组。紧接着，布罗克曼宣布了自己将回归的消息，OpenAI“失控”的5天随之画上休止符。
保守与激进之争
如今，OpenAI高层震荡已过去一个月，事件原因依旧众说纷纭。本质上，这很可能是一场有关人工智能发展理念的保守与激进之争，暴露该领域理想主义与商业路线的分歧。
初创阶段的OpenAI是一家非营利机构，宗旨是开发“安全且有益”的通用人工智能，从而造福全人类，这与“有效利他主义”观点不谋而合。有效利他主义者认为，肆无忌惮地发展人工智能可能会毁灭人类，股票配资知识网人工智能的发展应更注重安全而非速度。
2015年，OpenAI在一份声明中表示，重要的是要有一个领先的研究机构，它优先考虑利他的结果，而不是一己的私利。这种理念也为OpenAI的崛起奠定了基础，多年不计成本的投入以及对长远利益的重视使得ChatGPT在同类产品中脱颖而出。
不过，在人工智能领域还有一种被称为“有效加速主义”的对立观点，即主张无条件地加速技术创新，并将其快速推向市场来颠覆社会结构。有观点认为，虽然阿尔特曼也强调人工智能安全与监管的重要性，但其立场明显更偏向于“有效加速主义”。
OpenAI公司的产品已暴露出令人不安的一面。不断有人结合亲身经历表示，ChatGPT能给用户提供一些违背道德或违反法律的主意。
路透社援引两名匿名知情人士的话说，OpenAI多名员工曾在公司人事震荡前致信董事会，称名为“Q*”的人工智能算法项目在通用人工智能研究方面取得的突破可能对人类构成威胁。
在公司快速发展的过程中，阿尔特曼对人工智能商业化的推崇越来越明显，其与苏茨克维等董事会成员的分歧随之加深。英国《卫报》报道称，阿尔特曼遭解职后，有OpenAI员工问苏茨克维这是不是一场“政变”。苏茨克维否认道，董事会是在履行非营利机构的职责。
人类更需“对齐”
11月29日，阿尔特曼说，“经历了这一切”之后，公司“没有失去任何一名员工”。但是，在看似什么都没变的人事震荡之后，人工智能的安全问题再度引发广泛关注，部分国家、机构和组织正加强对人工智能的监管。
美国总统拜登10月30日签署一项行政命令，为人工智能安全制定了新标准。美国媒体称，这是拜登政府对人工智能技术采取的第一项具有约束力的重大行动。欧洲议会、欧盟成员国和欧盟委员会三方12月8日就《人工智能法案》达成协议，该法案将成为全球首部人工智能领域的全面监管法规。
12月，OpenAI就人工智能的安全问题多次在社交平台上发帖，并提到“超级对齐”团队发表了首篇论文。所谓“超级对齐”，即建立一套控制技术，确保人工智能系统的目标与人类价值观及利益相一致。
“超级对齐”团队于今年7月成立，负责人之一是苏茨克维。但截至目前，OpenAI仍未公布其职位。亲身“经历了这一切”的人们或许已经明白，更需“对齐”的是人类自己，这比让人工智能“对齐”要难得多。
文章为作者独立观点，不代表财盛证券观点
相关文章
