Google AI误信愚人节恶作剧故事 将其当作真实新闻

愚人节恶作剧纯粹是为了好玩,除非人们太当真,机器自然也会这样。一位威尔士记者发现,人工智能时代的网络笑话并不那么好笑,他这个无伤大雅的小笑话展示了人工智能如何捕捉新的虚假信息并将其传播为事实。

每年 4 月 1 日,本·布莱克 (Ben Black) 都会对他的社区新闻网站 Cwmbran Life 的读者们开个玩笑。这位 48 岁的记者多年来一直在编造愚人节恶作剧,从搞笑到荒谬,应有尽有。

2020 年,他编造了一篇关于库姆布兰创下每平方公里环形交叉路口数量最多的吉尼斯世界纪录的故事,该故事自此一发不可收拾。该故事发布一天后,他不得不更新文章以澄清这是愚人节玩笑。然而,这并没有阻止一家更知名的出版物摘录该故事并将其作为“新闻”发布。更糟糕的是,布莱克要求该网站删除该故事。该网站拒绝了,但那是人为错误。

时间快进到 2025 年,Ben震惊地发现,Google的 AI 概览以他的虚假故事为基础,将其作为事实进行总结。虽然这不是危险的虚假信息,但这一事件是一个典型例子,说明虚假新闻传播得多么容易,即使是来自可靠来源的也是如此。

布莱克告诉 BBC:“有人在Google上搜索‘威尔士的道路’,竟然会发现我编造的故事并相信它,这真的很可怕。”布莱克还认为,这起事件暴露了人工智能对小型独立出版商构成了日益严重的威胁。虽然主要媒体与人工智能公司达成了利润丰厚的合作协议,但他说,像他这样的小媒体却被冷落了,因为他们的原创内容未经许可就被挖掘和重新利用。

当然,互联网上的讽刺新闻概念并不新鲜。像 The Onion 和 The Babylon Bee 这样的媒体已经存在了很长时间。大型语言模型可能“意识到”这些众所周知的例子,也许还有其他例子,并将它们与真实新闻区别对待。然而,考虑到 Cwmbran Life 是一个真正的新闻网站,人工智能无法分辨出区别,并认真对待这个恶作剧。

    可悲的是,这场混乱让布莱克彻底放弃了愚人节的传统。也许开发人员应该编写 LLM 程序,在报告“事实”之前寻找更多背景信息,尤其是在 4 月 1 日。

    Read More

    自上周以来 ChatGPT 用户已生成了超过7亿张图片

    OpenAI 的最新图像生成功能有望成为该公司有史以来最受欢迎的产品之一。据 OpenAI 负责日常运营和全球部署的 Brad Lightcap 介绍,自5 月 25 日在ChatGPT中推出升级版图像生成器以来,已有超过 1.3 亿用户生成了超过 7 亿张图片。

    Lightcap周四在 X 上的一篇帖子中写道: “我们尽力为所有人提供服务,感谢您的耐心等待。团队将继续昼夜不停地工作。”

    Lightcap 补充说,印度现在是增长最快的 ChatGPT 市场。

    1743699318204.png1743699318204.png

    OpenAI 的新图像生成器于本周早些时候向所有 ChatGPT 用户推出,因其能够创建逼真的吉卜力风格照片而广受争议。这对 OpenAI 来说是喜忧参半的事情,它为 ChatGPT 带来了数百万新注册用户,同时也极大地限制了公司的产能。

    首席执行官 Sam Altman 表示,由于 OpenAI 致力于扩大基础设施以满足需求,图像生成器的流行导致产品延迟和服务暂时降级。

    Read More

    OpenAI and Anthropic are fighting over college students with free AI

    Two leading AI labs, OpenAI and Anthropic, just announced major initiatives in higher education. It’s the constant one-upping we’ve all become familiar with: this week, Anthropic dropped their announcement at 8 AM Wednesday, while OpenAI followed with nearly identical news at 8 AM Thursday. For Anthropic, this week’s announcement was its first major academic push. […]

    Read More