1. はじめに
岡野原大輔さんという方の「ヒトとAI」を読みました。
最近は、仕事でも日常でもAIを使うことが当たり前になっていて、コードを書いてもらったり、調査してもらったり、壁打ちをしたり、知らないことを教えてもらったりしています。
その一方で、AIは本当に理解しているのか、どこまで賢くなるのか、AIとどう向き合っていけばよいのか、といったことを日々漠然と考える機会も増えました。
そんな中でこの本を読みました。本書は、AIの仕組みだけを解説する本ではなく、AIとはなんなのか、人間とは何なのか、AIが前提になる社会で仕事や教育、責任のあり方はどう変わるのかを考えていくというような内容になっています。
ここではこの本を読み終えて、自分が考えたことを整理します。
2. 本のざっくり概要
本書は大きく三部に分かれています。第I部でAIなどヒト以外の知能を考え、第II部でAIとの比較から人間の知能を考え、第III部でAIが前提となる社会の仕事・教育・制度を考えるといった構成です。
AIと人間では学び方が違う
前半では、AIがどのように学び、どのような特徴や限界を持つのかが扱われます。人間は一つの身体を持ち、時間の流れの中で経験を積み重ねます。一方、AIは本や論文、Web上の文章など、さまざまな場所や時間から切り出された情報をもとに学習します。
これは、AIが情報同士を結びつけられないという意味ではなく、ひとりの主体が一つの人生を通して経験したものではないという意味で、要は人間とは違う学び方をしているという話です。
また、「理解している・していない」を単純な二択にせず、一般化や因果の把握、反実仮想など、理解を構成する能力に分けて考えていきます。そうして見ていくと、AIはすでに、理解と呼びたくなる能力をかなり高い水準で持っているように見えます。
AIと比較すると人間の有限性が見えてくる
AIの知能を考えたあと、第II部では人間について考えます。個別性、文化、感情、意識、自由、責任などが扱われますが、自分が特に印象に残ったのは人間の有限性でした。
人間は一つの身体を持って、一回しかない人生を生きています。Aを選んだ人生とBを選んだ人生をあとから片方なくすみたいなことはできません。過去の選択をなかったことにして、別の履歴に切り替えることもできません。
AIは条件を変えて複数の可能性を考えたり、文脈を切り替えたりできます。人間のように一つの人生を連続した履歴として生き、その結果を自分のものとして引き受けるわけではありません。
AIは理解し、推論し、判断をもはや提案もできます。それでも、人間と同じ意味で自分の人生の主体になるわけではありません。その違いを知能の高さではなく、有限性や責任から考えている点が印象に残りました。
AIが前提の社会をどう設計するか
第III部では、AIが理解・判断・実行まで担う社会で、仕事や教育、研究、経済、制度をどう設計するかが扱われます。
仕事については、AIが業務に組み込まれるほど人間がすべてを実行するのではなくAIに任せるものを決め、複数の結果を統合し、監査・変更・停止ができる仕組みを作る方向へ進むのではないかと考えられています。
教育や研究の話でも、AIが答えを出せることと、その答えを位置づけたり検証したりできることは別だという話が出てきます。AIに聞けば答えが返ってくるとしても、自分の中に地図がなければ、その答えが妥当なのか、別の問いを立てるべきなのかを判断できません。
3. この本を読み終えて
AIにできないことを探す必要はないのかもしれない
本書を読む前は、AIと人間の違いを「AIにはできないこと」で探そうとしていた自分がいました。AIは本当には理解していない、創造性は人間にしかない、判断は人間にしかできないといったところに人間の価値を置こうとしていたりしてました。
しかし本書では、AIは理解できる、推論できる、判断できる、可能性を生み出せるということを前提に人間との違いを考えていきます。
AIが進歩するたびに「ここまではAIにはできない」と境界線を引き直すよりも、AIが多くのことをできる世界で、それでも自分たちは何を選ぶのかを考える方が良さそうと思うようになりました。
AIが実行を容易にするほど、「何をするか」が重要になる
AIを使っていると「これ面白そうだからちょっと作ってみよう」ということが簡単になります。調査も、設計も、コードを書くことも、文章を作ることも以前より短い時間で試せるようになりました。
これは便利な一方で、意味のない方向にも速く進めてしまうということでもあるのかと思います。実行するコストが下がるほど「できるかどうか」よりも「それをやる価値があるか」「何のためにやるのか」を考える比重が改めて大事なのかと思いました。
仕事でも開発速度を最大化したいのか、長期間安全に変更し続けられるシステムを作りたいのかで同じ問題に対する選択は変わりそうです。単純な正解があるというよりどんな状態を良いと思うかによって、選ぶものが変わるというようなイメージです。
人間は何を選びどこへ向かいたいのか
AIは多くの選択肢を考え、判断の材料を出してくれます。でも最後に「この方向へ進む」と決めることは残ります。
自分の中ではAIがHowを担えるようになるほど、WhatやWhyを考えることの比重が増えるのではないかという考えにつながりました。
ここでいうビジョンは最初から立派な未来像を持っていることではなく、自分は何を良いと思うのか、何を大事にしたいのか、どの方向へ進みたいのかを少しずつ考え続けることなのかと思います。
方向性は突然生まれるものではない
ただ「ではビジョンを描きましょう」と言われても、急に明確な答えが浮かぶわけではないと思います。
技術について学ぶ。事業や顧客について知る。人と話す。自分とは違う考え方に触れる。実際に試して失敗する。そうした経験の中で「これは良い」「これは違う」「自分はこういうことを大事にしたい」という判断軸が人間の場合は少しずつできていくのだと思います。
だから学ぶということは、AIより多くの知識を持つためだけのものではなく、自分の中の地図や問い、判断軸を更新するためのものなのではないかと思いました。
AIに答えを聞けるようになっても何を知りたいのか、どの答えを採用するのかを考えるには自分なりの地図が必要なのかと。
自分の開発に置き換えて考える
この本はエンジニアの開発手法を説明する本ではありません。それでも、最近の自分の開発に置き換えて考えられる部分がありました。
AIを使って開発しているとAIの返答を待つ間に別の作業を始めるため、自然に複数のタスクが並行します。従来のように一つずつ出力を確認していく方法では追いつきにくくなります。
自分の場合、5つ程度のタスクが並行すると、どれを依頼していたのか、どこまで進んでいるのか、今何を確認すべきなのかを追いにくくなります。休憩やミーティングを挟むと、そこから再開するだけでも、状態を思い出すための時間が必要になります。もうパンク状態です。
この経験を本書の話に重ねてみると実行を分散できるようになったとき、人間の役割は単にすべての出力を細かく見ることではなく、何をさせるのか、どの方向へ進むのか、どこで判断するのかを考えることへ移っていくのかもしれません。まだ自分の中でも開発の進め方を考えている途中ですが、本書の「実行は分散し、判断は集約される」という話はそうした問題を考えるための視点になりました。
4. まとめ
この本を読んで何か明確な答えを得たというより、考えたい問いが増えたかんじがしました。
AIとは何なのか。理解するとは何なのか。人間とは何なのか。自由や責任とは何なのか。そして、AIが理解し、判断し、実行することが当たり前になった社会で自分たちは何を選ぶのか。
AIの能力が高まるほど「AIには何ができないのか」よりも「自分たち・自分は何を良いと思い、どの方向へ進みたいのか・どう生きたいのか」という問いが大事になってくるのではないかと思います。
そしてその判断軸やビジョンは突然どこかから現れるものではなく、日々学び、試し、人と話し、経験しながら、自分の中の地図や問い、価値観を少しずつ更新していって、その積み重ねの中で、自分たち・自分が進みたい方向が見えてくるのかと思います。
この本はAIが当たり前になる社会で、人間は何を選び、どうありたいのかを考えるきっかけになった本でした。
日々言語化できないモヤモヤが言語化されているように感じとても興味深い、今に刺さる本でした。