生成AI対策で授業資料PDFに大学教員が隠れた指示を埋め込む行為、「利用者(学生)の許可なく利用者が使うAIを意図的に誤動作させるデータを配布した」と捉えると、授業資料にコンピュータウイルス仕込むのと何が違うという話になり、教員がウイルス作成罪に問われる可能性あると懸念してます。 https://t.co/2X8mOvCxrX
— Yo Ehara (@yo_ehara) April 21, 2025
慶應義塾大学では、「独立自尊」の精神に基づき、学生が自らの判断と責任において学び、思考する姿勢を重視しています。この方針は、生成AIの利用に関しても明確に示されており、授業では担当教員の方針に従った適切な活用が推奨されています。特に重要なのは、AIを利用した場合には、その使用を明記することが求められている点です。
こうした中、大学の一部の授業で導入されたユニークなAI対策が注目を集めています。その対策とは、課題のPDFファイル内に「透明度100%」で、人間の目には見えない文章を埋め込むという手法です。
この“見えない文書”は、通常の閲覧では確認できませんが、生成AIにPDFを読み込ませると、その隠された情報が読み取られてしまう仕組みになっています。つまり、AIが課題文全体を処理する際に意図せずこの隠れた内容も取り込んでしまうため、AIによる回答であることが判明しやすくなる、という“トラップ”が仕掛けられているのです。
実際に、ウェブサイトに閲覧者の許可なく関係ない計算をさせるコードを仕込んだウェブサイト作成者がウイルス作成罪で突然逮捕されたCoinhive事件というのがあり…最終的に無罪にはなりましたが、逮捕までは警察の判断なのでどう判断されるか外からは全く不明。https://t.co/Ox7NkkOWbR
— Yo Ehara (@yo_ehara) April 21, 2025
ほとんどの学生がブラウザ経由で利用する、パソコンのファイルを削除したりすることは(ブラウザのセキュリティ機能のおかげで)できない生成AIを利用しているからいいようなものの、学生がローカルでAIを動かしていればAIを誤動作させファイル削除やOSが起動しなくさせたりは理論的にはできる。
— Yo Ehara (@yo_ehara) April 21, 2025
実際に生成AIを使って生産性をあげようとするプログラマの間では生成AIの書いたプログラムにシステム操作権限を与えてソフトウェア開発をしてる人がすでに大勢いるが、この時AIが指示を誤解してシステムの全ファイルを削除してしまうコマンドが生成され実行してしまう事故が起きていて問題になってる
— Yo Ehara (@yo_ehara) April 21, 2025
事故が起きていないから問題視されていないだけ。ローカルAIを使わなければ問題ないかというとそうでもなく、そういう隠れた文字が大量にあるPDFはすぐ検出できるので、学生が使っているAIサービスに授業資料をアップロードした瞬間に学生のアカウントが凍結され学生の他のデータが消える可能性ある
— Yo Ehara (@yo_ehara) April 21, 2025
さて、学生が卒論書いてたり企業と共同研究に関わっているなどして、第三者に損害を与えたら…?みたいな事案がもし起きれば、教員は十分罪に問われうる…という認識でないといけないと思います。医療のインフォームドコンセントと同じで、作る側が利用者の同意を得ることが必須な時代になったのです
— Yo Ehara (@yo_ehara) April 21, 2025
訂正: Coinhive事件については当時リアルタイムで見てたので経緯を知っていましたが、法律上は逮捕ではなく任意の捜査協力と家宅捜索という形だったようです。しかし、とにかく事前警告なしに突然警察がやってきて捜査されたという事案であったと記憶しています。
— Yo Ehara (@yo_ehara) April 21, 2025
なので、安易に授業で導入するのは避けたほうがいいと思います。判断するのは必ずしも技術に詳しくない警察ですので。日本では技術的仕組みはどうあれ「利用者の計算機を誤動作させる意図を持ってデータを配布すること」そのものが、後から警察が問題視すれば刑法上の罪に問えるようになっています。
— Yo Ehara (@yo_ehara) April 21, 2025
ウイルス作成罪というのは罰金刑を問えて検察と裁判官だけで10万円ぐらいの罰金で書面だけで略式命令をまず出せるようです。不服な人はそこから費用かけて正式な裁判を要求しますが、多くの人が不服でも正式な裁判する余裕がなく支払ってしまう。実際にCoinhive事件のときはこういう流れだったらしい
— Yo Ehara (@yo_ehara) April 21, 2025
Coinhive事件の時は同時に複数人略式命令出ていて、たまたまCoinhive事件で略式命令受けた方だけが不服として正式な裁判を要求したので争われたという経緯なようです。外からいかに異論を言っても検察と裁判官だけで法解釈して被疑者に経済力がなければ正式な裁判にはなりにくいのでは、と思います。
— Yo Ehara (@yo_ehara) April 21, 2025
被疑者に経済力がない方が覆されにくい事も警察・検察はわかってますし、略式命令が出れば大半は正式な裁判を起こせず罰金を支払います。大学の非常勤講師職でもし一例でも、不確かな法理でもで略式命令が出されれば日本の大学の非常勤講師システムは崩壊します。個人的にはその点を懸念しています。
— Yo Ehara (@yo_ehara) April 21, 2025
実験でも倫理違反じゃないかな。 https://t.co/xZY8OOtZHI
— Hiromitsu Takagi (@HiromitsuTakagi) April 21, 2025
作成者はAI対策をしていたがその資料をAIに読ませるのは生徒が勝手にやったことで作成者がAIに読ませろと生徒に指示したわけじゃないから別になんの問題もないのでは? https://t.co/gntJG56wFO
— セイウン=ネイチャスキー 🤖└|∵|┐🎷@聖フラウンス会 (@mayateitoku) April 22, 2025
その理屈でいうといわゆるマルウェアを作ることが許容されてしまいます。例えば、「このソフトを実行すると10万円儲かります!」という宣伝文句を大人数に送りつけ、クリックするとその人の連絡先に登録される全員にまたメールを送り付ける…とか。クリックするのは利用者の義務でないので。
— Yo Ehara (@yo_ehara) April 22, 2025
ウイルスは相手にダメージ与えるから禁止されてるもので、隠し入れたからではないんだよな。
— あま かける (@sugarlesstea) April 21, 2025
それが罪になるなら、ソフトに書き入れた「動作にはかかわらない説明文」もまずいことになる。 https://t.co/h71CqmlrFT
余りにも馬鹿過ぎてこの発想は出なかったわ(・∀・)バカジャネーノ
— 東伍西弐(🕊の餌になりかけし者) (@5percentrisk) April 21, 2025
じゃあ世にある全てのコピーガードも違法かよw意図せずコピー機を機能不全にするんだからよwあとプログラムのコメント文も埋め込んでるんだからアウトじゃねぇか(・∀・) https://t.co/jibHoY24VN
なるほど。Adversarial Exampleの提示は刑法168条の2を満たしかねないと。https://t.co/6pGNYRe8uA
— dimeiza (@dimeiza) April 22, 2025
『正当な理由』の適用だけが論点になりそうですが、対策ソフト開発や他人の承諾がそもそもの想定ですから、真っ正直に解釈すると抵触しそうですね、たしかに。 https://t.co/4QMgrd3vTQ
資料PDFはプログラムじゃないから違う気がする。
— 理影@Entis (@mint_sugar) April 21, 2025
初めからAIに食わせるプロンプトとして配布されたならその懸念はなくはないと思うけど。
逆にプロテクト系プログラムの分類の気がする。
PDFからAIへの指令を外して作成者の意図しないようにした場合のほうが何かしら法律に触れそうな気がしないでも… https://t.co/N3OLoyJHi3