Google、健康検索の AI 概要で早期警告を省略し、ユーザーをリスクにさらす

Googleは、AIが生成した健康関連の検索の概要にセキュリティ警告を目立つように掲載していないことで批判に直面している。最近の調査では、検索結果の上部に要約された回答を表示する AI 概要ツールには、ユーザーが最初に医療アドバイスを表示するときに免責事項が含まれていないことが判明しました。この警告は、インターネット ユーザーが「さらに表示」などのコンテンツを展開するオプションをクリックした後にのみ表示されますが、その場合でも、表示される他の情報に比べて小さく目立たないフォントでテキストの最後に表示されます。

この構成では、特に診断、治療、検査の解釈などの機密性の高いトピックに関して、自動応答への過度の依存につながる可能性があります。人工知能の専門家や患者団体の代表者らは、概要がページ上部に特権的な位置にあるため、追加の情報源を確認したり、資格のある医療専門家に相談したりする意欲をそぐと指摘している。

アラートの位置付けが論争を生む

医療概要の冒頭に目に見える免責事項がないことが、ユーザーの安全を損なう要因として認識されています。コンテンツが拡張されると、警告ではエラーの可能性について言及し、専門家の指導を求めることを推奨しますが、多くのインターネット ユーザーはこの段階までたどり着けません。

重篤な症状を抱える患者を専門とする団体は、アラートを直ちに表示し、本文と同じ活字を強調して表示すべきだと主張している。この措置は、自動読み取りを停止し、受け取った情報のより批判的な評価を促すのに役立ちます。

専門家がAI幻覚の危険性を警告

人工知能モデルは、たとえ最も高度なものであっても、不自然な情報を生成したり、正確さよりももっともらしい答えを優先したりすることがあります。幻覚として知られるこの特性は、医療相談においてより大きなリスクをもたらし、不正確な詳細が重要な決定に影響を与える可能性があります。

研究者らは、目立つ警告が介入の重要なポイントとなることを強調している。これらは絶対的な権威という認識を打ち破り、生成された概要に基づいて行動する前に他の信頼できるソースとデータを照合することをユーザーに促します。

Googleはツールの現在のアプローチを擁護

同社の広報担当者によると、AIの概要には、必要に応じて本文中に医療専門家に直接相談する必要性についての言及が含まれることが多いという。医療機関を受診するという提案は、ユーザーをガイドするために設計されたシステムの中心的な要素とみなされます。

同社は、AI によって生成された概要が有用であることを追求し、Web 上で入手可能な質の高いソースに基づいていることを強調しています。しかし、批評家は、インターフェイスの構造により、コンテキストに十分な注意を払わずにメインコンテンツを利用できると主張しています。

患者施設への批判が強まる

血液がんなどの重篤な病気の患者の支援に重点を置いている団体は、現行の対策では国民を守るには不十分だと考えている。彼らは、通知は最初に目に見える情報であり、主要な概要と同じフォントサイズである必要があると主張しています。

すぐに目立つことができないと、実際の症状を抱えた人々が人間としての適切な診断や治療を求めることができなくなる可能性があります。画面上部に完全かつ決定的な回答が表示されると、誤った安心感が生まれ、追加の検索が行われる可能性が低下すると団体は警告しています。

過去の事例では部分的な調整が必要となった

最近の事件では、肝臓検査の基準範囲など、特定の医療相談において不正確または誤解を招く回答が調査ですでに特定されていた。一般に公開された後、Google は特定の正確なクエリに対する AI 概要を削除しましたが、検索の変動によりこの機能がトリガーされる可能性は依然としてあります。

これらの調整は、確立された医療ガイダンスに矛盾する情報の報告に応じて行われました。専門家は、1 回限りの削除ですべての医療訪問におけるアラートの可視性という体系的な問題が解決されるかどうかを疑問視し続けています。

信頼性に対する会社の姿勢

Google は、自社の AI ツールが専門的なクエリを促進し、要約の精度は他の従来の検索リソースと同等であると主張しています。同社は、臨床チームによる評価を含む社内のフィードバックとレビューに基づいてシステムの改善に取り組んでいます。

保証にもかかわらず、免責条項の構成には疑問が残り続けています。注意通知よりも生成されたコンテンツが優先されると、最初の健康指導をオンライン検索に依存する脆弱なユーザーに特に影響を与える可能性があります。