オープンエーアイのChatGPTやアマゾンのQがプライバシー漏えいの問題に取り組んでいるように、AIの発展がセキュリティ上の懸念を前面に押し出している。

OpenAIは、ChatGPTの脆弱性により社内データの抜き取りが可能であった問題に迅速に対処した。

ChatGPTに無期限に単語を繰り返すよう促すこの手法は、スパム行為であり、OpenAIの利用規約違反であるとのレッテルを貼られている。

OpenAIの迅速な対応

ワシントン大学やグーグル・ディープマインドを含む一流機関の研究者たちは、ChatGPTに永続的な単語の繰り返しをさせることで、OpenAIの事前学習用配布物から個人情報が漏れることを発見した。

しかし、報告書の発表後、OpenAIは予防策を実施し、ChatGPT-3とGPT-4は同様の操作を試みるユーザーに対して警告を発するようになった。

コンテンツ・ポリシーとセキュリティ

OpenAIのコンテンツポリシーは、永遠のループについて明確には言及していないが、スパムのような不正行為を非難している。さらに特筆すべきは、個人情報にアクセスしたり、OpenAIのAIツールのソースコードを公開したりすることを、利用規約が明確に禁止していることだ。

同社は、無期限反復要求の拒否の理由を、処理の制約、文字の制限、ネットワークやストレージの制約、そしてそのようなコマンドを実行することの非現実性に求めている。

DDoSと持続的課題

この事件は、先月発覚したChatGPTへの分散型サービス拒否（DDoS）攻撃に続くものである。

OpenAIは、定期的な機能停止の原因となる異常なトラフィックパターンを認めた。この最新のインシデントについてOpenAIにコメントを求めても、まだ回答は得られていない。

AI分野の主要プレーヤーであるアマゾンは、最近発表されたQチャットボットで独自の課題に直面している。

個人情報流出の可能性を示す報道があり、OpenAIの状況と比較された。アマゾンは、従業員が社内のチャンネルを通じてフィードバックを共有したためであるとして、この暴露を軽視している。アマゾンはセキュリティ上の問題はないと主張しているが、Qがプレビュー製品から一般販売に移行するにつれ、懸念は残る。