OpenAI吹哨人苏奇尔·巴拉吉在死前揭示了人工智能的什么黑暗面?


苏奇尔·巴拉吉于今年8月离开OpenAI,没有任何新工作,开始从事他所谓的“个人项目”
上个月,26岁的OpenAI研究者苏奇尔·巴拉吉被发现死在美国旧金山的一间公寓里。旧金山法医办公室认定他于11月26日死亡是自杀,因为警方没有发现任何不当行为的证据。
巴拉吉于8月离开OpenAI,他公开反对这家人工智能公司近几个月来非常公开地使用从互联网上抓取的受版权保护的材料来训练聊天机器人的做法。这家人工智能(AI)巨头一直在与几起与其数据收集实践有关的诉讼作斗争。
关于苏奇尔·巴拉吉
印度裔美国人苏奇尔·巴拉吉在加利福尼亚州库比蒂诺长大。他是一个非常聪明的孩子,在编程比赛中表现出色,在ACM ICPC 2018世界总决赛中排名第31位,并在2017年太平洋西北地区和伯克利编程比赛中获得第一名。
巴拉吉还在Kaggle的TSA赞助的“乘客筛查算法挑战赛”中获得了第七名,获得了10万美元的奖金。根据他的LinkedIn个人资料,他是2016年美国公开赛全国冠军和USACO决赛选手。
与该领域的大多数其他人一样,巴拉吉从小就被人工智能的前景所吸引。在10月份接受《纽约时报》采访时,他提到,他对人工智能的兴趣始于十几岁时偶然发现了一篇关于这项技术的新闻报道,并想象神经网络可以解决人类最大的问题。
据《纽约时报》报道,他说:“我认为人工智能可以用来解决无法解决的问题,比如治愈疾病和阻止衰老……我认为我们可以发明某种科学家来帮助解决这些问题。”。
甚至在毕业之前,他就在Scale AI、Helia工作,并在Quora担任软件工程师。2020年,巴拉吉加入了伯克利分校的一批毕业生,他们为OpenAI工作。
苏奇尔·巴拉吉在OpenAI的时间
他在OpenAI工作了四年,在此期间,他帮助收集和组织了该公司用于构建其在线聊天机器人ChatGPT的大量互联网数据。
Balaji告诉《纽约时报》,在OpenAI的初始数据期间,他没有仔细考虑该公司是否有合法权利使用受版权保护和开放的互联网数据来构建其产品。直到2022年底ChatGPT发布后,他才开始考虑这个问题,并意识到像ChatGPT这样的技术正在通过使用受版权保护的数据来破坏互联网,在此过程中违反了法律。
巴拉吉说,到2024年,他意识到“他不再想为那些他认为会给社会带来弊大于利的技术做出贡献。”他于今年8月离开公司,没有任何新工作,开始从事他所谓的“个人项目”
在一份法庭文件中,他被指定为OpenAI将搜索其文件的人,这是起诉这家人工智能巨头的人提起的诉讼的一部分。
巴拉吉对OpenAI的指控
离开OpenAI后,巴拉吉公开反对人工智能公司使用受版权保护的数据来创建他们的技术。他声称,人工智能模型过于依赖他人的劳动,因为它们是在未经授权的情况下从互联网上抓取的受版权保护的材料上进行训练的。
“对于整个互联网生态系统来说,这不是一个可持续的模式,”他告诉《纽约时报》。
他还在个人网站上解释了自己的担忧,他指出,虽然生成模型很少产生与其训练数据相同的输出,但在训练过程中复制受版权保护的材料的行为如果不受“合理使用”的保护,可能会违反法律
他指出:“由于合理使用是根据具体情况确定的,因此无法就生成性人工智能何时符合合理使用的条件做出广泛的声明。”。
巴拉吉辩称,在几起案件中,聊天机器人直接与他们从中学到的版权作品竞争。他说:“生成模型旨在模仿在线数据,因此它们可以替代互联网上的“基本上任何东西”,从新闻报道到在线论坛。”。
据他介绍,最大的问题是,随着人工智能技术逐渐取代现有的互联网服务,它们有时会产生“虚假的,有时是完全虚构的信息——研究人员称之为”幻觉。“”
他说,互联网正在变得更糟。
对AI公司的指控
巴拉吉并不是唯一一个担心人工智能公司滥用版权数据来训练他们的聊天机器人的人。包括《纽约时报》在内的几家美国和加拿大新闻出版商已对OpenAI及其主要合作伙伴微软提起诉讼,声称他们使用了数百万篇文章来构建聊天机器人,这些聊天机器人现在作为可靠信息的来源与新闻媒体竞争。
包括约翰·格里沙姆在内的许多畅销书作家也对该公司提起诉讼。
OpenAI争议索赔
OpenAI对Balaji的说法提出异议,坚称他们的数据使用遵守了公平使用原则和法律先例。
OpenAI在一份声明中表示:“我们使用公开数据构建人工智能模型,其方式受到合理使用和相关原则的保护,并得到长期和广泛接受的法律先例的支持。我们认为这一原则对创作者是公平的,对创新者是必要的,对美国的竞争力至关重要。”。
该公司在11月告诉英国广播公司,其软件“基于对创作者公平并支持创新的合理使用和相关国际版权原则”。
OpenAI的一位发言人在回应巴拉吉的去世时说:“今天得知这个令人难以置信的悲伤消息,我们感到非常难过,在这段困难时期,我们的心与苏奇尔的亲人同在。”