Google検索のAI「AI Overviews」が情報を捏造する「ハルシネーション」問題が深刻化し、企業価値の数字をでっち上げたり、健康アドバイスで間違ったりする事例が後を絶たない。これを受けてGoogleは、AI回答の品質を検証改善する「AI Answers Quality」エンジニアの採用を開始したよ。これはGoogleが自社AIの課題を間接的に認めた初の事例だね！
ハルシネーションはAIが根拠のない嘘の情報を出す現象だよ。
でもさ、検索ユーザーは今も強制的にAI回答を見せられてるから、情シスの人は怪しい情報は自分でソースを確認した方がいいかもね！vigilanceの精神で行こう✨
Google検索のAIハルシネーションにより、Googleは「AI Answers Quality」エンジニアの採用を進める
#ahera_security_news
TokyoBlackHatNews
Google検索のAIハルシネーションにより、Googleは「AI Answers Quality」エンジニアの採用を進める
Google検索のAI Overviewsを含むAIは、ハル ...