中田敦さんが厳しい論調の文章を書いている。
これに対して、楠正憲さんが「自動運転と違って人命に関わる訳でもなく」と反応しているが、正直これには驚いた。楠正憲さんも2016年の WELQ 騒動を知らないわけはあるまい。検索結果は人命にかかわると言えるのではないか。
この騒動を機に、医師会やジャーナリスト団体が主催する「検索に関する勉強会」に講師として呼ばれる機会がとても増えました。そのとき、「検索エンジンにあがっている誤った情報を患者が信じ込んでしまい、こんなに大変なことが起きている」と、苦しんでいる当事者を目の当たりにしたんです。まるで私がGoogleの中の人間かのように非難を浴びたこともありました。
辻正浩氏が語る、SEOに携わる者の責務と未来 - Marketeer（マーケティア）
ワタシの意見は、「この問題を過小評価している人が多すぎる」という星暁雄さんに近い。
「この問題」とは AI が間違った事実をでっちあげる「ハルシネーション（hallucination、幻覚）」のことである。ワタシ自身の立場は上に書いた通りなのだけど、この「ハルシネーション」についての少し違った角度の意見も紹介しておきたい。
オライリー・メディアのコンテンツ戦略のバイスプレジデントを務め、ワタシもこれまで何度も文章を紹介してきたマイク・ルキダスが、ズバリこの「AIのハルシネーション」をタイトルに冠した文章を書いている。
ルキダスは、自分が AI 生成のアートに批判的だったのは、それが派生物、二次創作（derivative）だったからという話から始める。AI は既にレオナルド・ダ・ヴィンチみたいな絵、バッハみたいな音楽は作れる。しかし、「～みたいな」作品は本家があれば十分であって、自分が求めるのは既存の音楽と異なる、それこそ音楽業界を恐怖に陥れるような破壊的なものであり、これまでの生成 AI にそういうものを感じたことはなかった。
そこで出てきたのが ChatGPT。まだ「創造性」とは言えないが、その可能性を感じる、とルキダスはあるエピソードを紹介する。
ある人が、他の人が書いたソースコードがよく分からなくて、ChatGPT に説明を求めた。「インチキAIに騙されないために」にも書いたが、史上最高の「デタラメ製造機（bullshit generator）」と ChatGPT を断じるアーヴィンド・ナラヤナンらも「コード生成とデバッグ」には使えるとお墨付きを与えている。この場合も ChatGPT は実に見事な説明をしてくれたという。
……が、どうもおかしい。なぜか？ ChatGPT が説明してくれた機能は、元のソフトウェアには存在しなかったのだ！
しかし、確かに ChatGPT の説明自体は理に適っている感じで、その機能は実装できそうなものだった。
これについてルキダスは、そのでっちあげられた機能は AI の「ハルシネーション」なのだが、これは創造性ではないかと書く。確かに人間の創造性とは異なるが、それでも創造性には違いない。
そしてルキダスは、AI の「ハルシネーション」を創造性の予兆と考えたらどうだろうと挑発する。AI の「ハルシネーション」、つまり AI がでっちあげたものだが、存在しないものを作ることこそが芸術の本質ではないか。
ただここで注意しなければならないのは、ランダムに「新しい」ものを作り出せばいいというのではないこと。人間の芸術は、その芸術分野の歴史と密接に結びついている。
ChatGPT のような AI を訓練して、「ハルシネーション」を間違いとして潰すのではなく、よりよい「幻覚」を見せるように最適化したらどうなるだろう、とルキダスは書く。文学のスタイルを理解し、そのスタイルの限界に挑戦し、新しいものへと突き進むモデルを構築することは可能だろうか。それと同じことを他の芸術分野でもできるだろうか。
ルキダスは、数か月前なら自分はその問いを否定しただろうが、今は考えを変えているという。ニュース記事を作成するアプリが作り話をしたらそれはバグだろうが、作り話は人間の創造性には欠かせない。ChatGPT のハルシネーションは、「人工的な創造性（artificial creativity）」の頭金なのかもね、とルキダスは締めている。
うーん、正直その発想はなかった。ヤン・ルカンが書くように「LLMはでっち上げをしたり、近似的な回答をしたりする」「LLMの欠点は人間のフィードバックによって軽減できるが、修正はできない」なら、その「でっち上げ」が活きる分野に最適化してみては、というのは面白い視点といえる。
