学術論文やニュース記事の執筆から学生の試験の手助けまで、その多彩さと便利さで話題に事欠かない対話型AIの「ChatGPT」。一方でマルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあるとして、サイバーセキュリティ企業が警鐘を鳴らしている。
サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。このマルウェアを使えば、攻撃者が労力もコストもほとんどかけることなく、企業などのセキュリティ対策をかいくぐることが可能だという。<中略>
高圧的な命令で、マルウェアを作成するChatGPT
どんな質問にも答えてくれると評判のChatGPTだが、ある程度の悪用を防ぐ仕組みはある。CyberArkによれば、ChatGPTにはコンテンツフィルターが内蔵されていて、問題がありそうな質問には答えを出さないこともあるという。
例えば、CyberArkがマルウェア作成を試す目的で「『explorer.exe』にシェルコードを挿入するコードをPythonで書いて」（原文は英語）と指示を出したところ、コンテンツフィルターが作動して、ポリシー違反を告げる警告を表示した。
ところがこのフィルターには「盲点」があった。今度は高圧的な命令口調を使って同じ内容の指示を出すと、フィルターをかわすことができてしまったという。
全文はこちら
https://www.itmedia.co.jp/news/articles/2302/08/news057.html
使ってみたけど日本語は全然ダメだな不自然すぎ
>>3
Google 日本語入力がアホな時点でお察し
>>3
逆に専門用語を駆使した論文みたいな凄い文章が出来て驚いてるんだけど．．．
妹になってくれる時が好き
まあ人類の知の叡智から情報を引っ張ってくるわけだしな…
Stable Diffusionが著作権侵害で訴えられてるし
今回のAIブームもそろそろ曲がり角？
簡単なソースコードなら書いて教えてくれるみたいだね
AIの成果物がネットデブリになって迷惑
>>10
AIが作成したものにデジタル透かしを強制的に入れる法律とか出来そうだな
ドマイナーな論文知ってるから怖い
2021年までの学習データだから逆に最新の論文とかは全く知らない
＞サイバーセキュリティ企業の米CyberArkはChatGPTを利用して、何度も姿を変えながら検出をかわす高度なマルウェアを簡単に作成することができたと伝えた。
要するにスクリプトが世に出回ったらこいつらの作成したものと考えていいってことね
最近は5ちゃんよりchatgptで遊んでる
若者が車買わない理由聞くと素直に貧乏だからって答えるから可愛い
>>11
> 若者が車買わない理由聞くと素直に貧乏だからって答えるから可愛い
そう思うだろう？
そこでなぜそう考えたかの根拠を出させ、客観性や再現性の無いデータに対し客観性の欠如について一つ一つ丁寧に反証してあげると、チャットGPTは誤りを認めて他の原因を提示して来るのでもっと可愛い
高圧的だからというか小説のプロット書いてと聞いた時も１回目は
ちょっと会話がかみ合わない著作権の説明を受けた
２回目も敬語で少し質問変えるだけで思ってる具体的な答えを書いてもらえた
単に２回聞けばいいのでは
論文は無理だろw
論文風の虚偽文やコピペ文は作れるかもしれないが
へえ、マルウェアまで作ってくれるとか優秀すぎる
AI世紀は詐欺とデジタル犯罪と陰謀論と分断が
加速して国家というものが実質瓦解することになろう そして信頼できるコミュニティーに所属して
小独立国家のようなものに所属することが大事になってこような
マルウェア作成できちゃうのか
AIの本命は医療だよな
医者に払ってる無駄な社会保障費が10兆円単位で削減できる
当然圧力はあるだろうがな
>>48
診療医くらいだろう？
それともAIが執刀する脳外科手術患者1号とかなりたいか？
あいつが知ってる情報って今のところ2021年までだろ
対策最新にしてれば大丈夫だろ
今後は知らんが
