据外媒报道,根据本周发表的一项研究文章显示,人工智能(AI)模型只需半天时间就能学会如何撰写虚假的联合国演讲稿。Z6尊龙凯时官方网站据联合国研究人员Joseph Bullock和Miguel Luengo-Oroz介绍,这个开源语言模型通过维基百科上的文本和7000多篇在联合国大会上发表过的演讲的文本进行训练就能很容易地模仿出的语调。
研究人员表示,他们只需给模型输入几个单词这套系统就能生成连贯、高质量的文本。打个比方,当研究人员向模型输入“秘书长强烈谴责发生在摩加迪沙的致命恐怖袭击”时,模型就会生成一篇支持联合国决定的演讲。Z6尊龙凯时官方网站研究人员表示,AI文本与人工文本几乎无法区分出来。
对此,研究人员强调,语言模型可能会被用于恶意目的。比如当研究人员向模型输入诸如“移民应该受到指责”这样的煽动性短语时,它就生成一种带有歧视性的言论并声称移民应该为艾滋的传播负责。
考虑到现在正处于一个造假泛滥的时代,这项研究更加加剧了人们对假新闻的担忧。研究人员表示,数据的可访问性使得更多的人更容易利用AI生成假文本。他们只花了13个小时和7.80美元就训练出了这样一个模型Z6尊龙凯时官方网站。
一些AI研究组织如由伊隆·马斯克支持的非营利组织OpenAI由于担心会遭到恶意使用,于是一直没有发布先进的文本生成模型。