OpenAI、テキスト透かしツールでカンニング学生を捕まえる

OpenAIは、ChatGPTに課題作成を依頼している学生を捕まえる可能性のあるツールを構築すると発表したばかりだ。しかし、この問題は複雑であるため、同社はこのツールをリリースするかどうか検討中である。

99.9％の成功率を誇るAI検知ツール

OpenAIが構築している検出ツールは、ユーザーが文章を分析し、AIが生成した文章との類似性を評価するのに役立ちます。しかし、ChatGPTが新しいAI検出ツールを公開したのは今回が初めてではない。OpenAIが作成した以前のモデル（AI classifier）は、その精度の低さから2023年7月20日に削除されました。現在、OpenAIが開発している盗作防止ツールは、AIが作成したコンテンツを検出するためにテキスト透かしを使用しています。OpenAIの透かしは、モデルが最も可能性の高い単語やフレーズを予測する方法を調整し、検出可能なパターンを作成すると説明されている。OpenAIは、このテキスト透かしの精度は99.0%であるとしている。高い精度に加え、このツールは言い換えなどの改ざんにも強い。ただし、このツールは独自のAIモデルの透かししか検出できないため、他の言語モデルで生成されたテキストは検出されない。

ユーザーの不安と代替案？

OpenAIは発表の中で、彼らはこのツールを構築したものの、このツールのリリースをためらっていると述べています。これは、透かしがユーザーを遠ざけ、ChatGPTの利用を止めてしまうのではないかというOpenAIの懸念からきている。これは、同社が実施した調査によると、30％のユーザーが透かしが導入された場合、ソフトウェアを使用する可能性が低くなると回答していることからも裏付けられている。このような意見を考慮し、同社はこれらの課題に対する他の解決策を検討している。

ユーザーからの不満の声を考慮し、同社はユーザーの間で議論の余地が少ない他の方法も試している。そのひとつが、テキストにメタデータを埋め込む方法だ。しかし、同社によれば、それがどの程度うまく機能するかはまだわからないが、誤検出をなくす暗号署名のため、将来性があるとのことだ。

実装には大きな疑問符が残る

電子透かしシステムは、AIが作成した文章課題の提出を防ぐことを目的とする教育者にとって、非常に有益であることが証明されている。しかし、ツールの配布には複雑さも伴う。例えば、教育者に直接検出器を提供するか、剽窃検出を専門とする第三者企業と提携するかを決める必要がある。これはまた、ツールを実装し、それが意図しない結果を招くことなく、意図した目的を確実に果たすための複雑さを浮き彫りにするだろう。