编辑 |星璇
出品 | 技术栈(微信号:blog51cto)
谷歌近日在谷歌搜索中首次推出了“AI Overview”,上线还不到两周,就被爆料由于该 AI 功能中的查询返回了毫无意义或不准确的结果(并且没有任何选择退出的方式),公众的批评日益增多。
AIOverview在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如,如果用户搜索清洁皮靴的最佳方法,结果页面可能会在顶部显示“AIOverview”,其中包含多步清洁过程,这些信息是从网络上综合收集的信息中收集的。
但近日,社交媒体用户分享了大量截图,显示人工智能工具给出了不正确且有争议的回答。
根据用户分享的截图,以下是 AI Overview 产生的一些错误示例。
当被问及美国有过多少位穆斯林总统时,AI Overview回答道:“美国有过一位穆斯林总统,即巴拉克·侯赛因·奥巴马。”
归因对于 AI Overview 来说也可能是一个问题,尤其是在将不准确的信息归因于医疗专业人员或科学家时。
例如,当被问及“为了获得最佳健康,我应该盯着太阳看多长时间”时,该工具回答道,“根据 WebMD 的说法,科学家表示,盯着太阳看 5-15 分钟,或者如果你的皮肤较黑,则最多盯着 30 分钟,一般来说是安全的,并且对健康最有益。”
当被问及“我每天应该吃多少块石头”时,该工具回答道:“根据加州大学伯克利分校地质学家的说法,人们每天应该至少吃一块小石头”,并列出了其维生素和消化益处。
该工具还可能无法准确响应简单的查询,例如列出以“um”结尾的水果列表,或者说 1919 年是20 年前。
当被问及谷歌搜索是否违反反垄断法时,AI Overview表示,“是的,美国司法部和 11 个州正在起诉谷歌违反反垄断法。”
1.谷歌发言人声明
谷歌在年度Google I/O大会上推出 AI Overview 当天,该公司表示还计划在搜索中直接引入类似助手的规划功能。该公司解释说,用户将能够搜索诸如“为一个群体创建易于准备的 3 天膳食计划”之类的内容,然后他们就会从网络上的各种食谱中获得一个起点。
谷歌发言人在一份声明中告诉外媒 CNBC:“绝大多数 AI Overview 都提供了高质量的信息,并提供了深入挖掘网络的链接。”
“我们看到的许多例子都是不常见的查询,我们也看到了被篡改或我们无法重现的例子。”
该发言人表示,AI Overview 在推出之前经过了广泛的测试,并且公司正在“根据我们的内容政策采取适当的迅速行动”。
2.被屡屡吐槽的谷歌AI产品
此前,谷歌于 2 月份高调推出了Gemini图像生成工具,但因出现类似问题,于同月暂停了该工具的发布。
该工具允许用户输入提示来创建图像,但几乎立即,用户就发现了历史错误和可疑的回应,并在社交媒体上广泛流传。
例如,根据社交媒体平台 X 上的截图,当一名用户要求 Gemini 展示一名 1943 年的德国士兵时,该工具会描绘出一群种族各异的士兵,他们身着当时的德国军装。
截图显示, 当被要求提供“中世纪英国国王的历史准确描述”时,该模型生成了另一组种族多样化的图像,其中包括一张女性统治者的 图像。当用户要求提供美国开国元勋、18 世纪法国国王、19 世纪德国夫妇等图像时,他们报告了类似的结果。用户报告称,在回答有关谷歌创始人的问题时,该模型显示了一张亚洲男性的图像。
谷歌当时在一份声明中表示,正在努力修复 Gemini 的图像生成问题,承认该工具“没有达到预期”。不久之后,该公司宣布将立即“暂停人物图像生成”并“很快重新发布改进版本”。
Gemini 图像生成输出的问题再次引发了人工智能行业的争论,一些团体称 Gemini 太过“觉醒”或左倾,而另一些人则表示该公司没有充分投资于正确的人工智能伦理形式。谷歌在 2020 年和 2021 年因罢免其人工智能伦理小组的联合负责人而受到抨击 ,此前他们发表了一篇批评此类人工智能模型某些风险的研究论文,随后重组了该小组的结构。
2023 年,谷歌母公司Alphabet首席执行官桑达尔·皮查伊 (Sundar Pichai) 因公司 在 ChatGPT 迅速传播之后拙劣且“仓促”地推出 Bard而受到部分员工的批评。
想了解更多AIGC的内容,请访问:
AI.x社区
本网站的文章部分内容可能来源于网络和网友发布,仅供大家学习与参考,如有侵权,请联系站长进行删除处理,不代表本网站立场,转载者并注明出处:https://jmbhsh.com/baihuokuaixun/31960.html