「朝鮮人犠牲者」「有機フッ素化合物（PFAS＝ピーファス）」「原発」…。チームみらい党首の安野貴博氏が2024年の都知事選に出馬した際に、人工知能（AI）を活用した返答システムで、これら特定の話題を質問された際にAIに答えさせない「NGワード」を設定していた。安野氏はAIによる誤回答を防ぐためと説明するが、その手法は妥当なのか。（松島京太）
◆2024年の都知事選挙中、7400件の質問に返答
NGワードが指摘されているのは、政策や政治スタンスを安野氏の代わりに説明する「AIあんの」というシステムで、都知事選の際の仕様だ。ユーチューブのライブで視聴者が質問を投げかけるとAIが自動応答し、選挙期間中に約7400件の質問に答えた。
当時の安野氏は知名度が低い中で「デジタル民主主義」などを掲げ、全体の5位となる15万票超を獲得。昨夏の参院選では安野氏が初当選し、チームみらいは国政政党に。今年の衆院選でみらいは11議席を得た。
安野氏の特徴的な選挙戦略でもあった都知事選のAI運用で、特定のワードを含んだ質問があった場合は「NG」として答えないという仕組みになっていた。
◆「マニフェストにないのに無理やり答えると…」
「われわれのマニフェスト上にそもそもないものに関してAIが無 理やり答えようとする傾向があり、その時にハルシネーションが起きがちだ」。2月27日の定例記者会見で安野氏は、NGワード設定を認めた上で理由を説明した。「ハルシネーション」とは、AIが事実に基づかない誤情報を生成する現象のことだ。
全文はこちら
https://www.tokyo-np.co.jp/article/471771
そのままの理由やん
「われわれのマニフェスト上にそもそもないものに関してAIが無理やり答えようとする傾向があり、その時にハルシネーションが起きがちだ」。2月27日の定例記者会見で安野氏は、NGワード設定を認めた上で理由を説明した。
誤回答をおよぼす可能性のある単語は他にもあるのに
なぜその単語をチョイスしたのかという説明は必要だな
センシティブ問題は人間に聞け、ってことだろ
AIが変な回答して、メディアで揚げ足取られても困るから
実験的な試みなんだからなるべく予防線張っとくのは当然だろ？
マスゴミの「僕はAIも詳しいんだ！」アピールキモいんだよ
文系もテック系も保身の道具であってリベラルであり得ないんだよ
ただそれだけの笑い話
2024年の段階では確かにハルシネーシヨン多かったからしかたなかったかも
そもそも財務省のプロパカンダの広告塔でしかないんだが。
胡散臭い詐欺師みたい
対面で聞きづらいことでも聞けるのがＡＩの良さの一つなのに
CGPTとGeminiとClaudeのあんのモデル用意して協議させようぜ
こんなものはAIとは言わない
流れ変わったな
党としての方針がないものを、AIが答えれる訳ないじゃん…
無から有を作ったって、事実と異なるに決まってる。
何かNG語の指定に
恣意的なものを感じる
「福島」をNGにしていたのが致命的な問題だろう
こいつやたらとテレビ出てるけど言ってる事は薄いよな
原発推進なんだろ
隠すこともなく、堂々それを発したらいいだけだろうに
なんでNGにするのか
AIこそ原発は必要と堂々主張すれば良いだけ
それならNGに指定していたワードに対する答えを
安野自身がどう思っているかをAIに学習させておけばいいだけだろ
NGに指定して回答拒否じゃダメじゃん
政治家じゃなくてコンサルだから
顧客がいない分野についてはどうでもいいんだよ
現実の安野も答えられないだろ
正しい設定😆
しかもこれ、Claudeそのまま使ってるのに自分の名前つけて自分らが開発したように見せてたよな
しかも党首はgeminiとClaudeの区別もついてなかったし、政治利用禁止の規約も知らなかった
けっこうぺらいな
政治的な質問には答えないんだろう
