Openai表明,Chatgpt的可能性很小

根据一项自我进行的研究,OpenAI的GPT-4在生物武器创建领域相较于传统互联网研究方法仅提供了轻微的优势。这项研究旨在评估AI模型的风险和潜在误用,特别是考虑到它们在创建生物武器方面的使用引发的担忧。

该研究涉及100名参与者,平均分为高级生物学专家和大学级别的生物学学生两组。这些参与者被分为两组:一组可以使用未受限制版本的GPT-4,另一组仅限于标准互联网资源。他们的任务是完成与生物武器相关的研究,包括合成和拯救埃博拉病毒,他们的回应根据准确性、创新性和完整性进行评分。

研究发现,尽管GPT-4组的准确性得分略高,但差异并不具有统计学意义。然而,来自GPT-4组的回应更为详细,使用GPT-4的学生在某些任务上达到的熟练程度接近专家组的水平。

尽管有这些见解,研究指出了限制,包括信息危害担忧,这阻止了公开具体任务细节。这项研究是OpenAI准备团队评估AI在网络安全和信念形成方面含义的更广泛努力的一部分。虽然OpenAI旨在减轻与AI相关的威胁,研究结果与外部研究和OpenAI关于GPT-4能力的自我断言形成对比,暗示了对AI潜在风险和益处的细腻看法。

下一页
上一页