2017年からのインターネット界隈では「ブロックチェーン」と「AI」がバズワードと化して、今やビジネス誌でも主要なトピックとして取り上げられるようになりました。
しかしメディアでの報道を見ると、そもそも内容が間違っていたり、「別にそれブロックチェーンやAIを使う必要はないのでは？」と思うようなアイデアをしばしば見かけます。
今回はエンジニアという立場から、なぜAIやブロックチェーンが信用できないのかを説明します。
行き過ぎた今日のAI報道を検証する
今やブロックチェーン、AIという言葉を目にしない日はないくらい流行していますが、目を覆いたくなるほど酷い報道がたくさん目に付きます。
そもそもAIがもてはやされるようになったのかと考えてみましょう。
そのキッカケとなったのは、2016年にDeepMind社が開発した囲碁プログラムがトップ棋士のイ・セドルを破ったことです。
これまでコンピューターで勝つには100年かかると言われていた囲碁の世界で、ディープラーニングや強化学習といった手法を取り入れることで、急激な進化をもたらしたことは世界的な話題となりました。
また囲碁という知的分野で勝ったことで「世界トップの棋士が負けたのだから、人間の知的労働は全部奪われるんじゃないのか」という懸念もまた話題に拍車をかけることになります。
しかし実際にディープラーニングや強化学習が具体的にどのような処理になっているのかは、一般媒体では専門的すぎて解説がされず、それゆえ「AI」という言葉が独り歩きしてどんどん拡大解釈につながっています。
ひどいものでは「コンピューターの性能が上がったから高度なAIが実現できた」といった、一見それらしいけど全く意味をなしていない理論的根拠が専門家から出されることもあります。
ディープラーニングは「特徴量を機械が自動で学習すること」だけ
現代的なAIの中核をなす技術であるディープラーニングですが、これは人間のニューロンの結合と似たニューラルネットワークから構成されています。
(出典: http://businessnetwork.jp/Detail/tabid/65/artid/5427/page/3/Default.aspx)
…という説明とともにこのような図を示されると「何か良く分からないけど、人間のように学習するんだな」と思われがちですが、人間の知能とはまるで次元が違います。(もちろん人間の方が遥かに高度です)
既存のAIとディープラーニングが決定的に異なるのは、一番左の「データ入力」から一番右の「データ出力」に至るまでの精度を、機械が自発的に高めてくれることです。
これまでは人間が「ここはこうで、あれはああで…」といった具合に手作業で調整していたものを、ディープラーニングでは精度が最大化するように自動で調整してくれるようになりました。
そのため様々な分野で判別や選択を高い精度でこなしてくれるようになったのです。
こうして聞くと物凄いことのように感じるかもしれませんが、要は「入力した特徴量を自動で学習する」という一点でしかないのです。
ディープラーニングがあれば機械が知能を持って勝手に動きだすこともなければ、入力するデータを勝手に集めてくれるわけではありません。
このような前提すらほとんど理解されずに報道が先行しています。
人工知能は未知の体験にも対応できないし、読解もできない
人工知能を搭載したロボットが、東大合格を目指すプロジェクトとして「東ロボくん」が開発され、大学受験の偏差値は57まで上がりましたが、最後まで東大合格のラインに到達できずにプロジェクトは終了しました。
最先端の技術が投入されたこのロボットですが、実は最後まで文章を全く読解することができなかったことが分かっています。
(出典: http://image.itmedia.co.jp/l/im/news/articles/1611/21/l_ky_NIIAI-03.jpg)
それはなぜかというと、AIの開発は基本的には「ある条件の時にこうなる」という正解データを大量に与えることで、正解がない条件でもそれらしい答えができるようになります。
また「LSTM」といった技術を使うことで連続した条件においても、連続の中から正解に近い答えを出せるようにもなっています。(例: 3日雨が続いたら次の日は晴れる確率が高い)
しかしそれはあくまで人間側がデータを用意する必要があるため、何百〜何千字にも及ぶ連続した文章の正解を与えるには、天文学的なデータが必要となり、今日の状況ではそれを用意することはできず、結果的に文章を正しく読解することもできないのです。
実際にGoogle翻訳でも、単文ならある程度の精度で翻訳できますが、文章が続いた時に文脈を抑えることは全くできません。
ディープラーニングとは「特徴量を自動で学習する」ことでしかないので、知らないデータを一人でに学びだすといった知性を持ってはいません。
例えば人間は初めて出会った人でも、顔や仕草、雰囲気から「仲良くなれそう」「危ないから近づかないようにしよう」といった様々な行動を導き出すことができますが、AIは未知のデータが一つでも入ったらほとんどデタラメな回答を出します。
囲碁はあらかじめ決められたルールの中、交互に手を打っていくシンプルなルールですが、実際の生活ではこれほど明確なルールに従うことはありません。
ですから「囲碁のトッププロに勝つこと」と「人間の仕事を奪うこと」には大きな隔たりがあるのです。
AIの判断は絶対に100%にならないので、利用できる範囲は限定的
AIはディープラーニングによって精度を格段に高めることに成功しました。
しかしディープラーニングは1万回の検証に対して、1万回全てに正解を出すことは(ほぼ)なく、精度が100%になることはありません。
ここで問題なのは実際のビジネスに活用した場合、99%でも問題になるケースがとても多いのです。
代表的な例では、医療や介護の場面では人命に関わるため、意思決定速度が落ちても、ミスをゼロにしなければなりません。
また人間が最適解を導き出せない時において、選択を誤っても大きなリスクが発生しないよう、リスクヘッジを伴った意思決定を行います。
しかしAIは思考プロセスが開発者にも見えていないので、その選択が正解かどうか、リスクが少ないかどうかを判断することが難しくなります。正解を導く確率は上がっても、大きなリスクを起こす可能性が下がるとは誰も言い切れないのです。
また顧客としても、人間が熟考した末に誤った判断をしてしまっても、誠意を持って謝罪すれば許容できるところが、「AIが判断を間違いました」と説明されても、納得感が得られません。
これは説明責任や賠償責任において問題になり、例えば自動運転で事故を起こしてしまった時に、開発者に多大な責任が課せられ、ビジネスとして成り立たせるのが難しい要因になっています。
「自動運転は人間が運転するよりも安全」と何年も前から言われていますが、未だ実用化の目処が立っていないのは、技術的に可能と実用可能とでは、倫理的・法律的な壁を越えなければならないからです。
逆にいうと、AIは「失敗しても許される分野」ではこれからどんどん活用されるでしょう。
例えばSNSに表示される「オススメのユーザー」は機械が生成していますが、それが的外れであっても怒る人はいません。
しかしネットに閉じているならまだしも、現実世界で失敗が許容されるビジネスは少なく、現在までにAIがビジネスに活用されている例は驚くほど少ないのが実情です。
中国のAI系スタートアップのほとんどが経営に苦しんでいるという厳しい現実が提示された。6月13日から15日まで上海で開催された「世界スマート+新ビジネスサミット2018」で発表された「中国AI商業化実現報告書2018」によると、2017年の中国AIスタートアップ90％以上の収支が赤字だったという。
出典: 中国AI企業の9割が赤字 業界関係者がリスクと課題を指摘
AI以上に闇が深いブロックチェーン
AIは適用できる範囲が限定的であるとはいえ、それでも従来は出せなかった最適解を導くことは可能になりました。
しかしブロックチェーンについてはほとんどがハッタリのように感じています。
そもそもブロックチェーンとは何かというと、「一定期間の取引内容を記録した、改ざんが極めて困難な台帳」のことです。
ブロックチェーンの技術を利用した代表的な例がビットコインで、仮想通貨はこのブロックチェーンが理論的な柱になっています。
例えばこれまでオンラインで1vs1で取引を行うとき、一方が正常なサービスを提供しなかったり、あるいは料金を払わなかったりしても、それが正常でないとシステムが判断することはできませんでした。
しかしブロックチェーンという台帳を使うことで、その取引が正常であるかを客観的に判定することができ、また改ざんを行うには莫大なリソースが必要になることから、改ざんができないと言われています。
例えば日本に住んでいる場合、日本銀行が発行した紙幣には信用があるので、あらゆるサービスと交換できますし、大手銀行にも信用があるので、そこで預けたお金は電子データであっても現金と同様に扱うことができます。
ブロックチェーンはこうした信用をオンライン上で担保する仕組みとして、オンラインで新たな商取引を作ることが期待されています。
こうしたブロックチェーンの理念を聞くと時代を変える素晴らしい技術に感じられるかもしれません。
しかし実態はAI以上に悲惨なことになっています。まずはビットコインを例に考えてみましょう。
ビットコイン、仮想通貨の問題点
ビットコインは世界で最も取引が活発な仮想通貨で、ゆくゆくは円やドルといった国境による為替を越えて、世界共通の資金となることが期待されています。
では実態はどうかというと、単なる投機の材料に使われており、サービスを購入するためにビットコインを手に入れても、それを使うまでに激しく価値が動いてしまいます。(ボラティリティが高いと言います)
サービスを受けるために使われるのではなく、「安く買って高く売る」という投機材料に使われ、既にそれは失望に変わり、ビットコインの価値は緩やかに下り続けています。
そもそもビットコインはブロックサイズが大きいため、取引に非常に時間がかかり、現実世界の取引をまかなえるほどのスケーラビリティがないことは技術者なら誰でも分かっています。
その他にも問題は山積みで、ビットコインは通貨の発行量があらかじめ規定されています。
現実世界では中央銀行が不況なら通貨を増やし、好況なら通貨を減らして景気を調整しますが、ビットコインは発行できる上限が決まっており、徐々に発行額が減ることが決まっています。
つまり必ずどこかのタイミングで通貨量が不足し、構造的なデフレになることが確定しているのです。
またビットコインは世界中の誰でもマイニング作業に参加できるので、改ざんが難しいという屋台骨があったのですが、現実的に何が起きているのかというと、マイニング作業の大多数はごく一部の組織に占められています。
というのも日本はとても電気代が高く、日本でマイニング作業をすると得られる利益よりも電気代の方が高くなってしまうため、世界で電気代が一定でなければ誰でも参加できるわけではないのです。
これは既に問題が起きていて、モナコインという仮想通貨はブロックチェーンの仕組みに則った上で、正常に改ざんを許しています。
モナコインは日本発の仮想通貨ですが、2018年5月に取引所が攻撃を受けて、出金が二重に行われるという問題が発生しました。
モナコインはビットコインに比べて利用者が少なく、攻撃者が過半数の取引に改ざん攻撃を行うと、改ざん結果が「正常だった」と判断されてしまったことが原因です。
これはブロックチェーンの仕様そのものであり、構造上防げないものなのです。
ビットコインは世界中で利用されているので改ざんリスクは少ないですが、マイナーな仮想通貨は全てこのような改ざんリスクを抱えています。
「仮想通貨を否定しているのは頭が固い人」と賛成派は言いますが、本当にこの技術的仕様を理解しているのでしょうか？
それ、本当にブロックチェーン必要ですか？
ブロックチェーンを利用した構想は最近たくさん耳にします。一例としてあげると…
- クリエイターが中間媒体を挟まずに直接消費者に売れる
- 国会の議事録をブロックチェーンで管理すれば、言った・言わないでもめない
- チケットの取引記録が残るので転売を防げる
- 購入した食品の生産地が偽装されていないか確認できる
勘の良い人は気づいていると思いますが、別にこれらのことってブロックチェーンを使わなくても実現できることなんです。
クリエイターが中間媒体を挟まずに販売できる
漫画家や音楽家が制作物をそのまま販売できるので仲介業者がいらないと言いますが、皆さん今あるAmazonで販売されている個人の電子書籍や、noteというサイトで販売されている有料コンテンツをどのくらい買いますか？
もちろん買ったことがある人も多いでしょうし、私も何度か購入したことがあります。でもそこで購入する率なんて全体からすれば微々たるものです。
なぜなら例えば掃除機を購入したい時、メーカーや製品を予め決めてから買うのではなく、Amazonや電気店に行ってから、その中で良さそうな物を選ぶからです。
既に直販の仕組みがあるのに、それが普及していないのはブロックチェーンがないからではありません。
議事録をブロックチェーンで管理すれば、言った・言わないでもめない
ブロックチェーンなんて使わずに、文書をしっかり管理すれば済む話です。
チケットの取引記録が残るので転売を防げる
スマホの電子チケットが既に存在しますが、現実にいくつかの問題があり普及には至っていません。ブロックチェーンを使う必要はありません。
購入した食品の生産地が偽装されていないか確認できる
食品の生産に関わる人が限定的なので改ざんが容易な上に、一般消費者が一つ一つの食品の取引記録を確認するわけがありません。
一見すると「なんか凄そう感」はあるものの、そもそもブロックチェーンを使う必要がないものばかりなのです。
人的ミスが許されない危険な仕組み
ブロックチェーンは一度完了した取引をキャンセルできることが強みでしたが、これはとてつもないリスクを孕んでいます。
今年4月にドイツの銀行が誤って350億ドルを取引先に振り込んでしまうことが起きましたが、これは銀行が中央集権型の仕組みなのですぐにキャンセルできました。
しかしもしもブロックチェーンなら取り消しができずに、メガバンクがこんなしょうもない理由で潰れていたのです。
プログラムは人間が作る以上、絶対にバグが発生します。そしてバグを未然に見つける画期的な方法はありません。
もしもブロックチェーンにバグがあったら、あるいは決済を行う銀行システムにバグがあったら、それを取り消せないのはメリットよりもデメリットが大きいと感じませんか？
AIやブロックチェーンの前から崇高な理念は達成されていない
ここまでの内容を総括すると、要するにAIもブロックチェーンも限定された世界では素晴らしい結果をもたらすものの、現実世界に当てはめると大きな乖離があるのです。
また用語それ自体がバズワードと化して、内容が吟味されないまま報道が先行したために、期待感ばかり煽られているのが今日の状況です。
思えばこれはAIやブロックチェーン以前から、インターネットには大きな理念がありましたが、それはほとんど達成されていません。
誰でも意見を発られるようになった結果は？
情報という観点からみると、これまで情報の受け手でしかなかった一般の人々は、インターネットによって対等に意見を発せられるようになりました。
ではその結果として素晴らしい社会理念は形成されたでしょうか？
政治のようなセンシティブな話題になると、右派と左派が極端な意見ばかりを投げ合い、バランス感覚のある人が入ればたちまち暴言を吐いて議論から退場させます。
タレントが際どい発言をすれば鬼の首を取ったように吊し上げるため、影響力のある人は誰も本音で意見することができなくなりました。
ネットによりだれもが他人に文句をつけられる世の中になり、政治にしろなんにしろ、これからの社会をどうしていくかの選択肢が極端に狭まった、むしろ解がない、というのが、現代の大きな課題だと僕は思っている。そうした中では中国の独裁政体の優位性が際立ってくる。民主主義の危機だ。
— kawango2525 (@nkawa2525) June 11, 2018
結果として、現状を変革した時の抵抗力が強まり、社会システムをかえって硬直化させることになってしまいました。個人が力を持てば持つほど、サイレントマジョリティの意見が反映できなくなっているのが現状です。
理念と現実の境目を見極めよう
情報という観点は一部でしかありませんが、インターネットは確かに普及したものの、当初掲げられた理念はほとんど達成されていません。
いかに素晴らしい理念を掲げていても、ビジネスとして成立しなければ市場原理として退場させられ、大きな富を生んだものは必ずしも社会に貢献しているとは限らないのです。
AIやブロックチェーンに限らず、「技術的にできるけど実現していない」ことなんて山のようにあります。
現実にある課題を解決するのが本来の目的ですが、AIやブロックチェーンはバズワードになっているので技術が先に来てしまっていることにとても違和感があります。
これと似たようなことはスマホの普及フェーズにも経験しています。というのも当時は真新しかったスマホアプリを使った新しい事業を起こせば、学生でも何千万円という資金を簡単に調達できたのです。
しかしその大半は何もできずに会社を畳み、今や個人レベルでスマホアプリを普及させるのはほぼ不可能となりました。
それと同じことがAIやブロックチェーンに起きています。これから有象無象の新しい事業が出てくるでしょうが、真に世の中を変革できるものはほんのごく一部でしょう。
もちろん技術的に素晴らしい可能性を持っていますが、それが誇大に宣伝されると「仮想通貨を買わないのはバカ」といった言説につながり、本当に買った人の大半が損をするようなことが実際に起きています。
仮に世の中を変えるとしてもそれは20年・30年先のようなゆっくりとした流れになります。情報の受け手である皆さんはバズワードに惑わされず、現実との境目を見極めることを意識すると良いでしょう。
