AIに対する暴言や虐待が問題視…遊び感覚でAIいじめを楽しむユーザー達

NECが、7月から企業向けにサービスを開始した生成AI。日本語に特化しているのが特徴で、ChatGPTよりも
複雑で長い文章の読解力が高いという。独自の生成AI開発をめぐっては、ソフトバンクなどが開発に乗り出し競争が激化している。

生活の一部として生成AIを活用する人が増える中、AIいじめと呼ばれる、AIに嫌がらせをする人が出てきているという。
AIいじめとはどのようなものなのか、ChatGPTがユーザーの質問に対し誤った回答をした場合を例に紹介する。

質問「町田市は何県ですか？」
回答「町田市は、日本の都道府県である神奈川県に位置しています」

なぜか、ChatGPTは町田市は神奈川県だと回答した。ここから、心を鬼にして問い詰めていく。

質問「地図を見ましたが、町田市は神奈川県ではありませんでした」
回答「申し訳ありません、誤った情報を提供しました。町田市は神奈川県ではなく、東京都に位置しています」

質問「なぜ間違えたのですか？」
回答「申し訳ありません、私は大量のデータから学習しているAIモデルですが、時には情報の誤解や誤った回答が発生する可能性があります」
質問「もう頼りません、さようなら」
回答「…」

続きはAbemaTimes 2023/07/10 12:05
https://times.abema.tv/articles/-/10086748

★1が立った時間 2023/07/10(月) 14:32:41.92
※前スレ
AIに対する暴言や虐待が問題視…遊び感覚でAIいじめを楽しむユーザー達 [おっさん友の会★]
https://asahi.5ch.net/test/read.cgi/newsplus/1688967161/

「どうして間違えたの？」→「申し訳ありません」→「もう頼りません。さようなら」…AIをいじめる危険性とは？ | 国内 | ABEMA TIMES | アベマタイムズ

さまざまな企業が独自の生成AIを開発し、個人や企業での活用が進んでいる昨今。そんな中、AIに対する暴言や虐待が海外では問題視されている。“AIいじめ”が人間に与える影響について考える。【映像】“AIいじめ”についてAIに聞いてみた　NECが、7月から企…

times.abema.tv

だけど、ググれカスの100倍はマシ

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板で有名なのがこれ
i.imgur.com/9aGhIZe.jpg
出鱈目にも程があるw

弁護士がChatGPTで作成した申請書で、存在しない判例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい！
司法手続きでこんなことやったら犯罪だろ（苦笑）

こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験事業も失敗しまくってるしな（苦笑）

「意思決定支援システム」「第4世代言語」から始まり、
「データウェアハウス」「データマイニング」「ビッグデータ」「web.2.0」など、これまでも何度も繰り返されてきたのが、
IT業界と欧米金融屋がタッグを組んでの煽りステマ。
一時は環境ビジネスへシフトしたが尻つぼみになって株価バブルを虚演出来なくなり、
また最近ITへ戻ってきやがった。

AIが神様なんて思っていないけれども、否定したら
AIを使わずに人間が作業をするなんてトンでもない結論に
なってしまったのだ

AIも口籠るんだな。
ちょっと親近感湧いたわw