リップルCTOデイヴィッド・シュワルツ、AIが生成した本の論争に注目

リップル社の最高技術責任者（CTO）であるデイビッド・シュワルツは最近、AIが生成したコンテンツにまつわる事件に注意を喚起した。

シュワルツは自身のソーシャルメディアで、AIが作成したとされるキノコの見分け本を鵜呑みにした家族が毒殺されたというRedditのバイラル投稿をシェアした。その家族は毒キノコを食べた後、入院が必要になった。

AIが生成するコンテンツと安全性への懸念

家族の入院につながったこの事件は、AIが生成したコンテンツの信頼性、特に食用キノコの識別のような重要な情報が含まれる場合の信頼性について、深刻な疑問を投げかけている。

この小売業者はこの本の返金に同意したが、他の潜在的に危険で低品質なAIが作成した本がまだオンラインで入手可能であることに懸念が残る。

Redditの投稿者は、このような過失を当局に報告し、クリエイターに責任を負わせることができるのかとさえ疑問を呈している。

歴史的判例ウィンター対G.P.Putnam's Sons事件

シュワルツは、同様の事件が起きた1991年の歴史的判例、Winter v. G.P Putnam's Sonsに言及した。この事件では、ある夫婦が『キノコ百科事典』というタイトルの本を鵜呑みにし、肝臓移植を余儀なくされる重体に陥った。

事態の深刻さにもかかわらず、裁判所は最終的に出版社であるG.P.Putnam's Sonsに味方し、出版社が配信したコンテンツに対する責任を問うことの複雑さを浮き彫りにした。

AIが生み出す本のリスク

シュワルツの投稿は、AIが作成した書籍の普及によって、読者が正確で信頼できる情報にアクセスすることが難しくなるのではないかという、増大する懸念を強調している。

AIがコンテンツを作り続けるにつれ、誤報のリスク、特に正確で命を救う知識を必要とする分野での誤報のリスクは高まり、今回のような危険な結果を招く可能性がある。