AIが生成した文章を検出するツールの誤検知で「AIを使って課題のエッセイを作成した」と疑われて0点になったという事例
対話型AIのChatGPTは非常に自然な文章を生成できるため幅広い分野で活用できる一方で、教育面でChatGPTが学習や研究を侵害する恐れから、ニューヨーク市が生徒と教師によるChatGPTの利用を全面禁止したり、ChatGPTなどのAIで科学論文を書くことが国際会議で禁止されたりと、さまざまな動きが見られています。そのような中で、エッセイの課題に対して教師が「AIが生成した文章を検出するツール」を使用したところ、100%人力で執筆したエッセイが「AIを使って書かれた」として0点になったという学生の体験を、学生の親であるfailnaut氏がツイートして話題になっています。<中略>
検出ツールはAIによる文章を検出できないことがあるだけではなく、人間による文章をAIによるものだと誤検出してしまうこともあります。failnaut氏が2023年4月11日にツイートした内容によると、学校の課題として出たエッセイにfailnaut氏の息子がfailnaut氏のアドバイスを受けながら取り組んだところ、担当の先生がAIによって生成された文章かどうかをツールで確かめるプロセスにおいて、failnaut氏の息子のエッセイが「AIによるもの」と判断されてしまったそうです。ツールによってAIの文章だと検出された後に先生から確認はなく、failnaut氏の息子は釈明の余地もなく0点を付けられる結果となり、failnaut氏は「これが2023年のテクノロジーの現状です」と述べています。
AIによる文章だと疑われてしまった原因として、提出されたエッセイが「よくできすぎている」ことから生徒によるものではないと判断され、AIを使用したと疑われた可能性を指摘する意見もコメントされています。それに対して、failnaut氏は「私は、エッセイを書くサポートをしたと述べましたが、具体的には、自分自身の言い方で伝えたいポイントを正しい構造で書けるように指導したり、引用を多く使うようなことを避けるよう助言したりと、良い習慣を身に付けられるようサポートしたのみです。代筆するようなことはしていません」と語っています。
全文はこちら
https://gigazine.net/news/20230414-ai-essay/
続きを読む