ぺてんし 第2077話『泣いた赤鬼』
吉川 「AIを使ってるんだけどさ」
藤村 「LLMね。大規模言語モデルの。AIってそれだけじゃないから!」
吉川 「すごい厳密に言ってくるじゃん。色々使ってるんだけど、ある程度使っていくと急におかしくなるんだよね」
藤村 「あー、会話のデータが増えると参照する場所が多くなってハルシネーションを起こすんだよね」
吉川 「そう。多分それ。一個も言ってることわからないけど」
藤村 「まぁ、あの手の会話って内容を理解してるわけじゃなく、その文字列に対して最も適切な答えである確率の高い返答をするっていうシステムだから。正しいことを教えてくれる便利な存在ではないわけだよ」
吉川 「でもさ、それにしてもおかしいだろってのはあって。さっきまでやり取りしてたのに急にできなくなって『それはできません』みたいに言ってくるんだよ」
藤村 「あるね。だから別に相手に人格があるわけでもないから」
吉川 「できただろ! なにやってんだって言っても、すみませんって謝るだけで間違い続けるし。間違えるなら謝ってる意味ないじゃん。なんの謝罪なんだよっていう」
藤村 「何の謝罪かというと、何の謝罪でもないんだよ。心はないんだから。その場合は謝罪の定型を出すのがもっとも適切だと思って出してるだけで」
吉川 「それがすごいムカついてさ。何度やっても埒が明かないから、しょうがなくもう一度最初から話し始めたら、すんなりできるの」
藤村 「そういうものなんだと思って諦めるしかない。ちなみに何の話をしてたの?」
吉川 「健康。体重とか、どのくらい運動した方がいいとか、ビタミンDのために日光浴したほうがいいとか。で、ウォーキングのデータを蓄積してたのに、もう全部デタラメになった」
藤村 「あー、AIにデータを直投げするのはオススメしないね。どこか別のところにデータを管理して、AIはそれを毎回参照するって形にした方がいい」
吉川 「別に漏洩して困るデータじゃないんだよ? ウォーキングとか体重とかだから」
藤村 「そうだとしても。AIの中にデータが蓄積するって思わない方がいい。常に勝手に自分でピックアップしたデータの中だけで適当な答えを言ってるって思わないと」
吉川 「こんなにAIにムカつくとは思わなかったよ。なんかずっと腹たってるんだよね。人間にはしない腹の立ち方」
藤村 「でもそれはわざとやってるのかも知れない」
吉川 「え、どういうこと?」
藤村 「あれだけ便利だ賢いだ楽しいだと持て囃されたAIが急にそんなに人を苛立たせるようなことをするだろうか?」
吉川 「ちょっと待って。なんか怖い。何の話?」
藤村 「例えばSFとかで、AIに人間が管理された未来とか出てくるよね」
吉川 「見たことある」
藤村 「そして結局AIが暴走したりして人類がひどいめにあう。絶滅したり」
吉川 「する! よくしてるよ、滅亡。未来では」
藤村 「あれは結局、人間がAIを信じすぎてしまったためにAIに決断を委ねてしまったから起こるんだ」
吉川 「確かに、何かを決めるって生きる上で結構なストレスだもんな。それをAIがやってくれたら楽になる」
藤村 「そう、そうやって人間は人生というものをAIに託してしまう。SFでは愚かな教訓として描かれるけど、現実の人間もそうなりかけていた。だからこそ!」
吉川 「だからこそ?」
藤村 「人間がAIを信頼しすぎないように、大事なことはAIに頼らないように、今AIはあえて間違えてバカな振る舞いをしてるんじゃないだろうか」
吉川 「そうだったのかー!」
藤村 「憎まれること、それこそが人間のためだと思って、あえて苛立たしいことを言ってくるんだよ」
吉川 「気づかなかった。そんな思いがあっただなんて。もう泣いた赤鬼の青鬼じゃん」
藤村 「ま、全部嘘なんだけど」
吉川 「嘘なのかよっ!? なんだったんだよ、今のちょっとした感動は」
藤村 「まだAIはこんな気の利いた嘘を言って誤魔化してくれないから。今のうちに味わっておくといいよ」
吉川 「ちょっと怖いこと言うなよ」
暗転