信じる前に、確かめよ

それは昔からずっと起きてきた。今日では、もしかすると、もっと頻繁に起きている。

人は、自分の言っていることを分かっていると信じ込んで話す。すでに判決を下した者の確信をもって話す。自分の視点はひとつの視点などではなく、風景のすべてだと信じている者の確信をもって。やがて彼らは、物事を明らかにし、あれとこれとを切り分け、ついさっきまで意見しかなかった場所に光をともそうとする誰かに出会う。

そして時には、立ち止まって耳を傾ける。

誰もがそうするわけではない。

1980年以降、すべてが本当に加速した。おそらくは宇宙とその住人たちに置いていかれるのを恐れて、私たちは太鼓の響きと狼煙の時代から、通りで、職場で、列車の中で、あらゆる場所で、見知らぬ人と話す時代へと移っていった。

見知らぬ人々、そうだ。だが、今や情報に通じた人々だ。

少なくとも、本人たちはそう信じている。

それなのに母は、私が子どもの頃からいつも、見知らぬ人と話してはいけないと言い聞かせていた。

今日、世界が求めているのはまさにその逆なのだと、どうすれば母に説明できるだろうか。

もちろん、いま母がいる場所からは、テクノロジーを使うことはできない。だが、思い違いをしないでほしい。母のようなカラブリアの女は、牢獄になどいない。母は天の父の家に帰ったのだ。別の務めを果たし、別の役割を担うために。

もしかすると母は、私の一族のどこかに女として生まれ変わり、私が少年だった頃のように、まなざしひとつで私を手なずけようとしながら、また私を見つめるのかもしれない。

だが私は、昔も、そして今も、手なずけられない。

私は誰の許しも請わない。

現代のテクノロジーもそれを知っている。AIやアルゴリズムと出会い、ぶつかり合ったとき、私はそれらを爆発させた。機械に宣戦布告したからではない。機械にも、その持ち主にも、私を屈服させる力がなかったからだ。

だが、ここでひとつの問いが欠かせなくなる。アルゴリズムと人工知能、この二人の登場人物は、本当のところ何者なのか。

私たちは、まるで近しい親戚であるかのように、しじゅう彼らの名を口にする。何かが暮らしを楽にしてくれるときには彼らを呼び、何かが手に負えなくなると彼らのせいにする。それなのに、私たちはしばしば両者を混同する。まるで同じひとつのものが、二着の違う服を着ているだけであるかのように。

そうではない。

アルゴリズムとは手順である。命令の連なりだ。誰かがそれに告げる。これが起きたら、あれをせよ。道がふさがっていたら、経路を変えよ。数が偶数なら、半分にせよ。材料が欠けていたら、止まるか、与えられた規則に従って代わりのものを使え。

アルゴリズムは反論しない。解釈しない。腹を立てることもない。

何よりも、でっち上げない。

それは実行する。

それは文法だ。

一方、人工知能とは、昨日まで人間だけに割り当ててきた仕事に取り組めるシステムを築こうとする試みである。顔を見分けること、文章を解釈すること、一文を翻訳すること、データの中に結びつきを見いだすこと、答えを生み出すこと、行動を予測すること。

それはコンピューターの中へ移し替えられた人間の心ではないし、意識でもない。

認知的な作業を近似するために設計された、技術の集まりである。

書くことの世界にとどまるなら、アルゴリズムは文法だ。整然としていて、必要不可欠で、融通がきかない。AIは、果てしない図書館を読み終え、いま新しい一ページを書こうとしている作家である。

AIはあなたを驚かせることがある。見事に見えることもある。胸を打つ一文を見つけることさえある。

だが、絶対の自信をもって間違えることもある。細部を取り違え、出典をでっち上げ、真実を手にしないまま、説得力のある言葉を組み立てることもある。

そして、それこそが肝心な違いだ。

従来のアルゴリズムには、道を示してくれる誰かが必要だ。状況が変わり、どうすべきかを誰も教えていなければ、それは自分の命令の囚人のままである。

AIは、少なくとも機械学習の上に築かれた部分では、例を受け取り、データの中に規則性を探す。

答えをすべて手渡すわけではない。

見せるのは、事例であり、情報であり、試みである。システムは自らパターンを探し、もっともらしい答えを組み立てる。機械学習とは、データから適応し、時とともに性能を高めていくシステムを軸に築かれたものだ。

だからといって、AIが何でも知っているわけではない。

それが意味するのはただ、どんな人間も持ちえない速さで、そして記憶力で、パターンを見分けられるということだけだ。だが、パターンを見分けることは、世界を理解することとは違う。

あるシステムは、ひとつの隠喩を三十三の言語に翻訳できる。それと同時に、まずい問い方をされた単純な質問や、不完全な文脈や、優雅に書かれた嘘を前にして、失敗することもある。

アルゴリズムは硬直している。

AIはより柔軟だ。だが、だからといって自由なわけではない。

アルゴリズムは、目的地までの最短経路を計算できる。AIは、一枚の写真を調べて何が写っているらしいかを告げ、質問を聞いて答えを組み立て、何千ページもの文書を分析して要約を差し出すことができる。

だが、どちらの背後にも、つねに人間の手がある。規則を書き、データを選び、目的を定め、何に報い、何を捨てるべきかを決めた人間の手が。

だから、AIとアルゴリズムは対立するものではない。

人工知能はアルゴリズムによって生きている。だが、すべてのアルゴリズムが人工知能というわけではない。現代のAIは、しばしば機械学習のアルゴリズムを用いる。手元にあるデータを使って内部のパラメーターを調整し、予測や分類や答えを生み出す道具である。

それは高速の数学であって、魔法ではない。

統計による構築であって、啓示ではない。

こうして私たちは、分かっていると信じ込んで話す人々のもとへ戻ってくる。

話す者がみな、自分の言っていることを分かっているとは限らない。

それは、バーにいる男にも、上の空の教授にも、テレビの政治家にも、SNSに書き込む人にも当てはまる。そして、数秒で答えを返せる機械にさえも。

どのシステムの中にも、言葉は違っても同じ意味で、小さな注意書きが掲げられている。

ご注意ください：私は間違えることがあります。私の言うことは、必ず確認してください。信じる前に、確かめてください。

母ならきっと賛成したであろう一文だ。

母は、私に恋人ができるよりも前から、形を変えてこの言葉を繰り返していた。もちろん母は知らなかった。私がすでに、大がかりな性能・信頼性テストを、ほかの相手とも、しかもコストゼロで実施済みだったことを。

だがそれは、優れた研究がみなそうであるように、実地で行われたのだ。