「会話できるAI」は会話ができない

AIは無理なことを「無理です」と言わないところがダメなのだな。そのせいで時間が無駄になる。

無理なことについても、出鱈目で回答をでっち上げたり、全く的外れだったり、質の悪いコンテンツファームからの引用だったりで回答してくる。それに対して軌道修正しようとして「違う、そうじゃない」と言っても、すみませんとひとこと謝罪の言葉を言ったあと、さっきと一字一句同じことを言ってくる。バカにしてんのか？

GPT-4は会話ができるとかいうけど、おれに言わせればまだまだだね。おれに言わせるまでもなく、誰が言ってもまだまだだろ。そうでもないって言うやつは、普段他人とちゃんと会話できているか、自分を見直したほうがいい。

とはいえこの会話できないAIと会話を試みることで、多少なりとも他人と会話を成立させようとする辛抱強さは付くんじゃないか？ あるいは、現実にも無理なことを「無理です」と言わない人がいるとは思うのだが、そうした人に対する耐性がつくかもしれない。知らんけど。