AIが生成した文章を検出するツールの誤検知で「AIを使って課題のエッセイを作成した」と疑われて0点になったという事例
対話型AIのChatGPTは非常に自然な文章を生成できるため幅広い分野で活用できる一方で、教育面でChatGPTが学習や研究を侵害する恐れから、ニューヨーク市が生徒と教師によるChatGPTの利用を全面禁止したり、ChatGPTなどのAIで科学論文を書くことが国際会議で禁止されたりと、さまざまな動きが見られています。そのような中で、エッセイの課題に対して教師が「AIが生成した文章を検出するツール」を使用したところ、100％人力で執筆したエッセイが「AIを使って書かれた」として0点になったという学生の体験を、学生の親であるfailnaut氏がツイートして話題になっています。<中略>
検出ツールはAIによる文章を検出できないことがあるだけではなく、人間による文章をAIによるものだと誤検出してしまうこともあります。failnaut氏が2023年4月11日にツイートした内容によると、学校の課題として出たエッセイにfailnaut氏の息子がfailnaut氏のアドバイスを受けながら取り組んだところ、担当の先生がAIによって生成された文章かどうかをツールで確かめるプロセスにおいて、failnaut氏の息子のエッセイが「AIによるもの」と判断されてしまったそうです。ツールによってAIの文章だと検出された後に先生から確認はなく、failnaut氏の息子は釈明の余地もなく0点を付けられる結果となり、failnaut氏は「これが2023年のテクノロジーの現状です」と述べています。
AIによる文章だと疑われてしまった原因として、提出されたエッセイが「よくできすぎている」ことから生徒によるものではないと判断され、AIを使用したと疑われた可能性を指摘する意見もコメントされています。それに対して、failnaut氏は「私は、エッセイを書くサポートをしたと述べましたが、具体的には、自分自身の言い方で伝えたいポイントを正しい構造で書けるように指導したり、引用を多く使うようなことを避けるよう助言したりと、良い習慣を身に付けられるようサポートしたのみです。代筆するようなことはしていません」と語っています。
全文はこちら
https://gigazine.net/news/20230414-ai-essay/
AIで作られた作品か検証するAIに間違いがないか監視するAIが必要だな
>>4
ソレを続けて気がついたらAIと人間の人口比が逆転
地球の霊長はAIに…
人類が機械帝国との戦いに敗れコンピューターに支配されてからすでに四半世紀だよ
AIが独裁者になったらときどき無実の人まで普通に投獄されそうだよな。
結局人間もAI も、成果物の作成者を見分ける能力が無いんだろう
強いて言えば、成果物の作成速度が人体の神経反射速度を越えたらAI 製と判断可能
文章の書き方なんてプロンプトでなんとでもなるのにハイリスクなことしてんな
提出後に実力テストをすれば良い。
使用した文献や参考資料を明示し
参考にした部分を明示すること。
AIや個人サイトなどを避けること。
AIではなく100%人力で書いたって言ったって、もはや証明出来ないだろ。
執筆過程を動画に記録したって、
小さいイヤホンを耳に仕込んで、聞きながら書く事だって出来る。
これからはAIファクトチェッカーというクソ仕事が増えます
ChatGPTは俺には難しすぎる
人事部批判する文章を書こうとしてるのに頑張って誘導してもなぜか表現がソフトになっちゃうんだよ、どうすりゃいいの
文章作成能力だけでコレ
何を引き出すか？を見たらいいやん
AIが作ったのがわからないように作れるんだからどうしようもない
