こんにちは！山崎光春です。
Googleの新機能「AI Overviews」は、検索結果を人工知能(AI)によって要約して表示するものだ。しかし、導入直後からソーシャルメディア上で奇妙な回答が拡散され、問題視されている。
## 拡散された奇妙な回答
ピザに接着剤を入れる、パスタをガソリンで調理する、健康のために岩を食べるべきだ、といった荒唐無稽な回答がAI Overviewsから提示されたと報告された。さらに、洗濯機の掃除に塩素ガスが発生する危険な方法を勧めたり、うつ病の人に自殺を促すような深刻な回答もあったという。
## 原因と対策
Googleによると、拡散された多くのスクリーンショットは単なるフェイクだった。一方で、実際に表示された奇妙な回答もあり、改善が必要だと認めている。
その原因として、次のようなことが考えられる。
- 風刺的なコンテンツをAIが事実と判断してしまう
- データが不足しているため、おかしな回答になる
- 普通は検索されないような奇妙なクエリに対応できない
Googleは以下の対策を講じている。
- 荒唐無稽なクエリの検知を改善し、風刺コンテンツの取り込みを制限
- ユーザー生成コンテンツの利用を制限し、誤解を招く回答を防ぐ
- AI Overviewsが有用でないクエリへの対応を制限
- 真面目なニュースや健康関連のクエリではAI Overviewsを表示しない
Googleは、間違いから学び、AI Overviewsの精度向上に取り組んでいくと述べている。AIによる検索要約は新しい試みであり、課題はあるものの、今後の改善が期待される。
Citations:
[1] https://www.cnet.com/tech/services-and-software/googles-ai-overviews-werent-ready-for-prime-time-heres-why/
[2] https://www.cnet.com/tech/services-and-software/googles-ai-overviews-what-it-is-and-why-its-getting-things-wrong/
[3] https://www.technologyreview.com/2024/05/31/1093019/why-are-googles-ai-overviews-results-so-bad/
[4] https://www.technologyreview.com/2024/05/31/1093027/the-download-googles-ai-overviews-nightmare-and-improving-search-and-rescue-drones/
[5] https://www.nytimes.com/2024/05/24/technology/google-ai-overview-search.html
