宾夕法尼亚大学的研究人员回顾ChatGPT在过去一年中的变革性影响

宾夕法尼亚大学的研究人员对ChatGPT过去一年的转变性影响进行了回顾。作为一名调查生成AI(能够生成文本、图像或其他媒体的人工智能)领域的神经科学家，Konrad Kording指出了两个潜在的发展方向：一个是政治使用和操控的“奇怪未来”，另一个是人们将ChatGPT作为电钻建家具时获取信息的“工具方向”。

“我不确定我们会走哪个方向，但我认为很多AI专家正在努力将我们引向工具方向，”Kording说。Kording是宾夕法尼亚大学的PIK大学教授，同时也是佩尔曼医学院和工程与应用科学学院的教授。在反思生成AI如何改变科学学科的范式时，Kording表示，他认为“它将使科学整体朝着更加协作的方向发展”，尽管他对ChatGPT的盲点有所担忧。

Kording与宾大的化学、政治科学和心理学部门的三名研究人员一起参加了最近举行的题为“ChatGPT一周年：生成AI如何重塑科学”的座谈会。PIK教授René Vidal为该活动开场，该活动由学院艺术与科学学院的数据驱动发现倡议(DDDI)主办，物理和天文学教授、DDDI联合主任Bhuvnesh Jain主持了讨论。

“生成AI发展如此迅猛，即使是一个快照，对我们所有人来说，从这些优秀专家那里获得这个快照也是非常有趣的，”Jain说。OpenAI于2022年11月30日推出了一个基于大型语言模型(LLM)的聊天机器人ChatGPT，它迅速在新闻报道、教师讨论和研究论文中广为人知。DDDI的临时执行主任Colin Twomey告诉宾大今日，它将如何改变科学研究领域还是一个悬而未决的问题，活动的目的是征求同事们对他们领域中有趣方向的意见。

为了庆祝“ChatGPT的生日派对”，化学助理教授Andrew Zahrt询问了聊天机器人在他领域的应用，并得到回答：“化学中的生成AI是一个有创意的数字助手，通过预测其性质并提出创新组合来帮助科学家设计新的分子和材料，从而加速药物研发和材料开发过程。” Zahrt表示这是“一个非常好的描述”。

他说，就生成AI而言，化学领域仍处在原理证明阶段，很多研究正在探讨科学家是否可以使用生成模型提出合理的化学结构。

“要合成该分子并验证它是否达到预期效果并不容易，而且往往能够进行生成模型的人不是能够进入实验室制造分子并对其进行测试的人群，” Zahrt说。“有很多研究提出了新的分子，认为它们应该在某些方面更好，但实际上验证这些请求的实验研究相对较少。”

研究政治科学的博士生Nick Pangakis专注于将AI工具整合到社会科学中，他表示这些学科也正处于概念验证阶段。他表示，在使用生成AI进行在线调查时，一个取得成功的领域是使用生成AI征求意见。

他指出，在最近的社会科学领域的同行评议论文中，研究人员不仅将生成AI用作调查对象，还将特定的特征分配给AI，让其回答调查问题，并将其回答与人类在现实世界调查问题中的回答进行比较。Pangakis表示，研究发现生成AI“可以很好地近似报告真实世界调查问题的情况”。

“我认为这意味着，公司会说，‘我们不需要与消费者交谈；让我们和生成AI交谈’，或者政客会说，‘我们不需要采访选民；让我们和生成AI交谈’，”Pangakis说。“这可能应该引起警惕，因为它们真正代表的是信念，还是只是对下一个词进行预测的概率算法的模型？”

与会者们在宾大政治科学与经济学中心聚集在一起，向学生、职员和宾大社区的其他成员寻求专家们的意见。其中一位与会者询问AI生成的合成数据是否会反复取代人类参与者。

心理学副教授Sudeep Bhatia讨论了这个挑战，并以利用ChatGPT撰写推荐信为例。他说这些模型“是在过去40年中发布在互联网上的大量语言数据的基础上进行训练的。”他指出，如果人们停止使用ChatGPT写推荐信，“最终将不再有人类数据供这些模型继续进行训练。这是这些模型未来面临的最大漏洞。”

至于在心理学领域的应用，Bhatia评论道：“对于心理学家来说，我们应该停止研究人类，以生成AI作为人类的代理对象，这实在是荒谬的。”但他提到了该领域的其他有用应用，例如利用LLM来理解人们学习或使用语言的方式，并将ChatGPT整合到对高级人类认知的研究中。

Zahrt表示，许多创新都是由于我们能够想出想法的能力推动的，而这些想法的价值很大程度上是主观的，但AI可以帮助我们。Jain总结道：“在我看来，AI工具可以将个人的好奇心与实际的研究探索和发现路径缩短，这非常了不起。”