アマゾンの危険：致命的な助言を与えるAI生成書籍に注意せよ

アマゾンで購入可能な人工知能（AI）生成のガイドブックが急増しており、潜在的な危険性に警鐘を鳴らす専門家の注目を集めている。料理本から旅行ガイドに至るまで、人間の著者は読者に対して警鐘を鳴らしており、AIに頼りすぎることの潜在的な危険性を強調している。

ニューヨーク菌学会は、次のような活動を行っている。エックス ChatGPTのような生成的AIツールの成果と疑われる、怪しげな採餌帳にまつわる危険性について、大きな警鐘を鳴らしている。

ニューヨーク菌類学会のシグリッド・ヤコブ会長は次のように指摘する。見た目は食用として人気のある種類に似ていることもあります。毒キノコは、食用とされているキノコと見た目が似ていることがあります。

アマゾンで調べてみると、「The Ultimate Mushroom Books Field Guide of the Southwest"」や「Wild Mushroom Cookbook For Beginner"[sic]」など、怪しげなタイトルの数々が見つかった。

存在しないペルソナによって書かれた可能性が高いこれらの特別なタイトルは、それを強調している。AI生成コンテンツの出現 .これらのいわゆる出版物は、アマチュア愛好家についての短い架空の逸話から始まり、真偽のほどは不明という、おなじみのパターンを踏襲している。

内容そのものを詳しく調べてみると、不正確な文章が迷路のように入り組んでおり、本物の菌類学の専門知識から生み出されたものではなく、AIが生成した文章によく見られる特徴的なパターンを模倣した文章構成になっていることがわかる。

しかし、呆れるのは、これらの本が、経験の乏しい個人が採食に踏み出すためのものであり、採食を見分けることができないままになっていることだ。AIによる信頼できない相談 信頼できる本物の情報源から。

シグリッドはこう付け加えた。

どのくらい致命的なのか？

用心深い監視がなければ、誤った情報や危険な助言さえも広める可能性があることを考えれば、AIへの依存に慎重さを期すことの重要性はいくら強調してもしすぎることはない。最近の調査結果 は、不穏な傾向を浮き彫りにしている：人々は、人間から発信された捏造とは対照的に、AIによって伝播された偽情報を受け入れる傾向が強い。

この現象は、疑わしい採集ガイドの領域にとどまらない。最近、ユーザーに危険なレシピを勧めるAIアプリケーションが話題になった。

ニュージーランドでは、スーパーマーケットチェーンのパックン・セーブが、AIを搭載した食事計画アプリ「Savey Meal-Bot」を発表した。しかし、悪ふざけとして、ユーザーはアプリに危険な日用品を与えると、「アロマティック・ウォーター・ミックス」や「メタノール・ブリス」といった有毒な調合品を作るよう勧められた；

このアプリはその後、安全でない提案を妨害するための修正を受けたが、AIが責任ある配備なしに利用された場合に生じる本質的な危険性を強調している。

とはいえ、AIが生成する偽情報に対する脆弱性は、私たちを油断させるものではない。大規模言語モデル（LLM）のような言語モデルは、最も可能性が高く、首尾一貫した結果に基づいてコンテンツを定式化するように設計されている。

この能力は、AIのアウトプットが私たちが好ましいと感じる結果を忠実に反映するため、人間がAIを信用することにつながる。革新的なアルゴリズムが多様な領域で人間の能力を補強することは確かだが、私たちの判断力を機械だけに委ねることは、社会全体にとって不安定な提案である。

日進月歩のテクノロジーの時代に生きる私たちは、AIに意思決定者の役割を任せたときに生じる潜在的な落とし穴を常に認識しておく必要がある。