上周晚些时候,MSN.com的微软旅游版张贴一篇人工智能生成的关于渥太华“不能错过”的景点的文章,包括渥太华食物银行,一个真正的慈善组织,养活苦苦挣扎的家庭。在其推荐文本中,微软的人工智能模型写道,“考虑空腹进入其中。”
题目是,”去渥太华吗?以下是你不应该错过的!," (在此存档)这篇文章赞美了加拿大城市的优点,并推荐参加温特鲁德节日(只在二月举行),参观渥太华参议员的比赛,在“世界上最大的天然冰场”滑冰。
作为名单上的第三个目的地,微软旅行建议参观渥太华食物银行,这可能是从网上找到的摘要中提取的,但以一个不幸的短语结尾。
自1984年以来,该组织一直在收集、购买、生产和向渥太华地区的贫困人口和家庭提供食物。我们观察饥饿如何每天影响男人、女人和儿童,以及它如何成为成就的障碍。来找我们的人有工作和家庭要养,也有费用要付。生活已经够艰难了。考虑空着肚子进去。
最后一行是一种空洞的陈词滥调(或令人尴尬的错误总结)的例子,你可以很容易地在人工智能生成的文章中找到,因为文章背后的人工智能模型无法理解它正在做的事情的上下文,所以不加思考地插入。
微软旅行的AI生成文章中“渥太华食物银行”导语的截图
人工智能生成的微软旅行渥太华文章的截图
这篇文章归功于“微软旅行”,它很可能是一个大型语言模型(LLM),一种在互联网上找到的大量文本上训练的人工智能模型。微软的合作伙伴OpenAI在2020年推出了名为GPT-3的LLMGPT-42023年,两者都可以模仿人类的写作风格,但有频繁地被用于不适合的任务据评论家说。
自从…宣布以来深度投资一月份与ChatGPT制造商OpenAI的合作以及Bing聊天一个月后,微软一直在尝试将人工智能生成的内容整合到其在线出版物和服务中,例如添加人工智能生成的故事到必应搜索包括人工智能生成的应用审查摘要在微软商店。“微软旅行”似乎是生成式人工智能技术的另一种生产用途。
第一注意由科技作家Paris Marx在Bluesky上发布,渥太华食物银行的帖子于周四晚些时候开始在社交媒体上获得关注。作为对马克思文章的回应,法学硕士评论家艾米丽·本德著名的,“我在那个页面上找不到任何明显标记为人工智能生成的东西。似乎是他们两个的重大失败负责任的人工智能原则."
本德还指出了微软的政策;一个是“透明度”,意思是“人们会如何误解、误用或错误地估计系统的能力?”另一个是“问责制”,即“我们如何创造监督,使人类能够负责和控制?”
从渥太华文章的内容来看,很有可能是一个人没有对撰写文章负责,也没有人在发表前完全审查其内容,这意味着微软在互联网上发布人工智能生成的内容,几乎没有监督。
截至发稿时,微软没有立即对此事发表评论。