小林雅一のレビュー一覧

ＡＩが人間を殺す日 車、医療、兵器に組み込まれる人工知能

人工知能（AI）がこの数年で飛躍的に進歩したと聞いたことがあります。インターネット（スマホ等）の発達による大量データの取得可能、それを保存する記憶容量の拡大等、それを下支えする技術の発展もそれに起因していると思います。

映画のターミネータのワンシーンをいまでも覚えていますが、ある時点（あの時はターミネータロボットの一部が送られてくる、でしたが）から急激に技術が進歩するようですね。これは人工知能が暴走して、人間に反乱を起こした例でしたね。

この本では、人工知能が組み込まれて、それが暴走することで人間を脅かす可能性のある例として、車・医療・兵器、にとりあげて解説しています。自動運転車が普及するころには、自動車メーカも今のビジネスモデルを大幅に変えていることになると思います。

多くの仕事が人工知能に置き換わるということは、果たして人間にとって福音なのか、そうでないのか、人工知能を上手に使いこなして、人間にしかできないことは何なのか、果たしてそれを探すことが人間を幸せにすることなのか等、を考えていきたいと思いました。

以下は気になったポイントです。

・病気の予測システム（ディープ・ペイシェント）は、その並外れた病気が発生する予知能力があるが、一抹の不安がある。その根拠・理由は教えてくれない（ｐ８）

・パターン認識において、人工知能は今や人間を抜き去ったと見られている、ある職種がパターン認識に依存する度合いが高ければ高いほど、それはコンピュータやAIに奪われる可能性が高い（ｐ１９）

・現在進みつつある第四次産業革命では、人間にとっての最後の砦として残されてきた「制御系のシステム」つまり「マシンをコントロールする権利」が、ついに私たち人間からマシン自体へと委譲されようとしている、自動化の最終プロセスである点が今までと異なる（ｐ２５）

・内部がブラックボックス化されている、ディープラーニングでは、それがどのようにして何等かの結論に至ったかを医師は説明することが出来ない（ｐ５５）
・AI脅威論の本質は、その制御に人間が関与しないこと、である。（ｐ６０）

・車体周囲の３Dマップを作成するには、様々な技術（LIDAR、超音波センサー、DMI、振動センサー等）が必要であるが、どう組み合わせるかは、車の開発・製造コストとの兼ね合いである、テスラ「モデルS」には、高額なLIDARの代わりに、超音波センサー（測定距離５メートル程度）が使われている（ｐ８１）

・理論（正規分布）と現実（ファットテール）との「ずれ」がしばしば問題となる、現実世界では「ファットテール曲線」に従っている（ｐ９９）

・人工知能は絶対的に正しい診断や治療法ではなく、最も確信度（正解確率）が高い回答候補を返してくれるに過ぎない、どれほど性能がアップしても、誤った答えを返す可能性がある（ｐ１２７）

・不愛想なロボドクターは腕は良さそうだが、理由を説明して患者を安心させるところまでは気が回らない（ｐ１７０）

・米軍の「第三の軍事刷新」では、AIを搭載した自律的兵器の導入により、兵士の「戦死」「負傷」が減少するといわれている（ｐ１７８）

・現在のAIが苦手とするのは、戦場のように何が起きるかわからない複雑な状況下で、臨機応変に行動する柔軟な対応力である（ｐ１７９）

・現在のAIは、通常の人間なら敵わないような難題を楽々とこなす一方で、梯子を上る・ノブを回してドアを開ける・ボトルの蓋を閉める、といった子供でも簡単にできる日常行為に四苦八苦している（ｐ２２０）

2019年4月7日作成

クラウドからＡＩへ

展示会でディープラーニングという言葉には触れていたが、AIとつながりがあり、またこれが今、Siriをはじめとするロボット技術と非常に深い関係があることに驚かされた。自動翻訳が非常に有用になってきたと思っていたのだが、その背景がよくわかった。アシモフのロボット三原則の必要性がもうすぐそこまで必要になっていると思わされる本であった。

ＡＩの衝撃 人工知能は人類の敵か

●ロボットが雇用を奪うといっても、それなら人間は独自の創造性を活かす分野にシフトすればよいのでは？ と思ったら、AIは創造性をも発揮していくことになるらしい。AI開発の歴史やAIの現状など、ポイントをおさえた解説でわかりやすい。

ＡＩの衝撃 人工知能は人類の敵か

AIの歴史よりも、今後の付き合い方が知りたかったのですが、ヒントはもらえたようです。主観と創造性、、。

ＡＩの衝撃 人工知能は人類の敵か

非常に面白い本であった。特に最後の場面で人間が既に攻略された将棋を指しており、それをAIに不思議がられるというシーンが印象的だった。AIからすれば馬鹿にされてしまう将棋や囲碁を指し楽しんでいる人間が自分たちより頭の良い存在を生み出しという強烈なメッセージは未来の人間の姿を現しているのではないかと思った。そして人類が今抱えている問題を解決するためにはAIとロボティックスの流れは止められないとやはり感じた

ゲノム編集からはじまる新世界 超先端バイオ技術がヒトとビジネスを変える

比較的近々の情報が盛り込まれており大変参考になった。特に食糧関連の3章、医療関連の4章は混沌とする状況を簡潔にまとめられていて関心した。

ＡＩが人間を殺す日 車、医療、兵器に組み込まれる人工知能

この著者は視点がいいと思う。技術の発展を手放しで称賛するわけでも、無暗に恐れるわけでもなく、機械と人間の関係や社会への影響について真摯に向き合っている。

テスラ社は、2015年にオートパイロット機能を搭載した半自動運転車モデルSをリリースしたが、2016年に死傷事故を起こした。モデルSには高性能で高価なセンサーのLIDARが搭載されていなかった。グーグルは、2016年に分社化したウェイモに自動運転事業を移管し、人間を制御の環から外した完全自動運転の開発を進めている。各社では、ごくまれに発生する非常事態にも対応できるようにするため、指令センターの人間が制御権を引き継いで遠隔操作する方式も検討されている(Human in the Loop)。

IBMが開発したワトソンは、2011年にテレビのクイズ番組で歴代チャンピョンをを下した後、本格的なビジネス用のコンピューターに改造することを決定し、これまでに25業種で導入されている。中でも、ワトソン事業部の人員の3分の2が医療ビジネスに振り向けられており、新薬の開発やがんの診断支援、ゲノム解析アドバイザーなどに応用しようとしている。東大医科学研究所でも、2015年に導入している。ワトソンは、ルール・ベースの自然言語処理に機械学習やニューラルネットワーク、ビッグデータの探索技術を組み合わせた折衷型。

グーグル傘下のディープマインド社は、2016年にアルファ碁でイ・セドル棋士を負かしたが、ディープラーニングを医療に応用する取り組みを進めている。グーグル翻訳は2016年、対訳文書を比較するディープラーニングに基づいたモデルにリニューアルした。画像・音声認識の分野では、最高水準のディープラーニングのエラー率は3%前後に達しており、5%前後である人間のエラー率を追い越している。

オバマ政権が2012年に策定した国防総省指令では、兵士が標的を定めて攻撃する半自律的兵器と、兵器自体が標的を定めて攻撃する完全な自立兵器を区分し、米軍は前者を保持・使用すると定めている。戦場で戦う兵士や指揮官が欲しがっているロボットは、自ら戦況を判断して見方を助け、敵を攻撃する自律的兵器だが、自律性を高めようとすれば、人間の予想を超える行動に出る危険性も高まる。

従来の自動車や高速鉄道、ジェット機など、これまでの技術でも、私たちが中身の仕組みや技術を理解しないまま機械に命を預けるケースは多いが、これらを開発した科学者や技術者はその原理や仕組みを正確に把握しており、人間の制御下にあった。しかし、人工知能では、当の技術者さえ内部メカニズムや思考回路を把握しきれなくなっており、人間が制御できなくなっている(Human out of the Loop)。ディープラーニングで入出力層の間に追加する隠れ層は急増しており、100層を超えるものも珍しくない。入力するパラメータの数も億単位になっている。ディープラーニングの結論に至った理由を説明できるようにすることが課題になっている。

しかし、ディープラーニングの結論に至る理由を人間が理解できる形で説明することなどできるのだろうか？ディープラーニングの方法と似ている主成分分析でも、第1成分や第2成分といった説明が行われる。第1成分は入力したパラメータのうちのどれとどれが、それぞれどのような割合で構成されているなどと説明される。隠れ層の数が多くなるほど、そのような説明が長々と続くことになるだろうし、層の段階が進むほど人間には理解できなくなるのではないか。

著者は、ディープラーニングの技術が人間社会に受け入れられる過程について、古来の薬草が効くことがわかっていても理由は不明だったことに例えて、高い確度で妥当性が示されれば受け入れざるを得なくなるだろうと予想している。自らの思考や判断よりも人工知能の結論の方が好ましいことを経験的に学べば、人々は人工知能に従うようになっていくだろう。そうして思考力や判断力を養うことを怠れば、ますます人工知能への依存が強くなる恐れも抱く。

著者が本書の最後で書いていることは、私が人工知能に対して抱く懸念と同じだ。

「いつの日か私たちが本来の心を失い、人工知能にすべての判断をゆだねるとき、人は人であることを止め、人の姿をしたロボットになる。人工知能がもたらす真の脅威とは、それが人間を殺すことではなく、人間性を殺すことなのかもしれない。」

ＡＩの衝撃 人工知能は人類の敵か

なかなか読み応えがあったし、最近のAIにまつわることが網羅されていて、短時間でキャッチアップするには良かった。あと何冊かAI関連は読みたい。

ＡＩの衝撃 人工知能は人類の敵か

将棋やチェスでAIが人間に勝つというトピックスから始まり、AIの現状、取り組みの歴史を解説する。新書らしくポイントを押さえた解説でわかりやすい。
AIは人間に敵対するものではなく、人間とAIが協力して、人類が直面する難問を解決していくのだという未来図は、そうあってほしいという願いとともに、共感できる。

ＡＩの衝撃 人工知能は人類の敵か

人工知能、AIの入門書に最適。これを読むだけでかなり勉強になります。しかも読み安いし、次に何を調べればいいかも分かります。おすすめです。

ＡＩが人間を殺す日 車、医療、兵器に組み込まれる人工知能

近年、ＡＩをネタにした話題が巷を賑わせています。
中でも、囲碁や将棋のトップ棋士を打ち負かしたことなどは大いにニュースや情報番組を盛り上げていましたね。
こうしたゲームでの取り組みは、ＡＩの現状の力を測るとともに、以後の研究の発展に役立てる先駆けをなすものと思われますが、実社会で役立てるものとしてこれまたマスコミで再三取り上げられ最も脚光を浴びている分野が、本書のテーマである「車」「医療」「兵器」といえるでしょう。

私もこうしたＡＩを取り上げた情報番組などをみていてつくづく思うのは、車だったり医療だったり、ＡＩによる自動化が人間の導き出している局面局面の判断の一端を大きく凌駕しつつある現状で、ＡＩによる結論をどこまで信じることができるのかというところです。
ＡＩによる自動化が人間社会に大きな恩恵をもたらすことの反面、ＡＩが行う自動学習の過程はもはやブラックボックス化されてしまい、開発者ですらなぜこの結論に至ったのかを追求することができない。（追求するためのＡＩを別に開発中）
車の場合、なぜこの動きをして事故ったのかとか、医療の場合、なぜこの治療法を提示したのか、誰にもわからない状態で、果たして理由説明なしに人は受け入れることが可能なんだろうか？映画『ターミネーター２』のように人間の存在そのものが否定されることはないんだろうか？と不安に思うわけです。

こうした不安を、やっぱりそうか！と思う手助けをしてくれるのと（笑）、ＡＩ技術の前線について事例を交えながらわかりやすく解説してくれるのが本書になります。
著者が最も力説していたのは、「Human out of the Loop（制御の環から人間が除外される）」の危険性と、現状のＡＩのレベルでは、「Human in the Loop（制御の環に人間を含む）」の方が実際にかなっているということだと思われます。
アメリカの電動自動車メーカー「テスラ」が販売している「自動運転」車の事故の事例では、そもそも車が完全「自動運転」車ではないのに運転手が「自動運転」を過信したがために発生した事故であるとの結論とのことだし、インドやシンガポールなどでは既に医療分野でＡＩが運用されているものの最終判断は当然のことながら医師の手に委ねられているということで、つまり現状では、きっちりとした倫理的、法的な統一見解が整うまではこうした利用方法が最も最適で過信は禁物ということなんだと思います。当たり前か！

「Human out of the Loop（制御の環から人間が除外される）」であることの一番わかりやすい事例だったのはやはり医療での用途の方ですね。
仮に患者の病名や治療方法をＡＩが提示したとして、しかし、ＡＩは可能性が最も高い結論を提示してくるだけでその論理プロセスはブラックボックス、それが１００％確実だとも限らない。さらに仮に医師がＡＩに従った結果、患者を死なせた場合、責任はどこにいくのか？また逆に医師が信念に基づきＡＩとは異なる選択をして患者を死なせた場合、ＡＩに従わなかったという責任まで医師は負うことになるのか？などなど、人間の関与をどこまで認めるのかという議論になりかねず、実社会におけるＡＩの本格的な運用には越えなければいけないハードルがいくつもあるということですね。
また１０年に１度くらい発生しているＡＩの暴走による世界同時株価暴落や、刑事罰の量刑やバス運転手の適正診断、はたまた予知データとしての人事考課への活用など、論理プロセスもわからないのに人間社会がＡＩに振り回される様はまさに寒々とした光景だと言えます。
私は兵器面での活用で、『ターミネーター２』のようになったらコワイなあと内心思っていたのですが、ちゃんとターミネーター問題ってあるんですね！（怖っ！）
アメリカのロボット大会の興行が軍事費で賄われていて、日本人研究者もそちらの研究の方にとられているようで、ホントに「ターミネーター」の方に向かわないよね！？

ＡＩが構想されてから現在は第三次ブーム（？）のような状況であるとのことです。
第一世代はいわゆるプログラムング主体の命令文をコンピュータに覚え込ませる「ルール・ベースのＡＩ」と言われるものだったのが、その限界からしばらく冷え込み、次に第二世代として「統計・確立型のＡＩ」が主体となったそうです。そして、その限界からまたしばらく冷え込み、現在は第三世代として「自動学習」（ディープ・ラーニング）による「パターン認識」が世を騒がせているようです。
ＩＢＭの誇るＡＩ「ワトソン」などは「ルール・ベース」と「統計・確立型」の組み合わせが主体とのことで、現在は、何から何まで「ＡＩ」概念でひとまとめにされているので注意する必要がありそうです。
「自動学習」による「パターン認識」は、これまで人間が「勘」に頼ってきた部分を、プロセスはブラックボックスながら、人間よりも確実に結果を出せるという部分で人間の能力を上回ってきたものの、イレギュラーデータの対応の難しさや、自然言語処理に代表されるように複雑な状況への対応には「パターン認識」だけではまだまだ不十分のようです。
この感じからすると第四世代まではもう少しありそうなので、半分残念、半分ほっとした感じですかね。（笑）

本書ではこれらＡＩの現状をわかりやすく説明されていて、即興知識として勉強になりましたが、はじめにと第一章での前振りがそれぞれ本書の内容の簡潔編になっていて、程度の差がありこそすれ、都合３回、同じ話が繰り返されるのと、「兵器」の章では世界の軍事情勢の話など本論には関係ない話への脱線もあったりするので、正味は７０％くらいなのではないかと思います。まあ新書だし、こんなもんなのかな？（笑）

ＡＩの衝撃 人工知能は人類の敵か

機械の部下を持つ日は近い。

94p
ベイズ確率がAIに使われているのは知らなかった。
それとベイズ確率の説明が良い。
「最初からそんなに理想的な確率を得ようとしたら一歩も進めないよ。それより最初は最初は不正確でもいいから、
自分で適当に確率を決めておいて、そこに実験や測定の結果を反映させて、徐々に確率を修正していこう。そうすれば、今すぐにでも仕事を始められるから、こっちの方が便利だよ」

ＡＩの衝撃 人工知能は人類の敵か

AIの仕組みが分かりやすく書かれている。
2015年の出版なので当時の将棋電脳線までのことが書いてあるのだが、その後気になって調べたところ、
2016年：PONANZAが2勝0敗
2017年：PONANZAが2勝0敗
と、AIが続けて勝利しているようだ。

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

話題のゲノム編集技術がもたらしうる未来について。一般読者にはわかりやすいはず。専門家にとっても社会と新技術との向き合い方を考察するのにとても参考になる。

ＡＩの衝撃 人工知能は人類の敵か

創造性すらAIの範疇という考えが印象的だった。最後には役に立たない、非効率なことが残るのだろうか…。

また、脳の働きを分子レベルで解明する、や、猿の脳の動きの調査方法など、瀬名秀明著のbrain valleyの世界へと現実がシフトしつつあることも印象的だった。

"つまり、創造性とは全くのゼロから何かを生み出すことではありません。むしろ、幅広い経験を通じて目撃したり学んだりした様々な事柄
つまり一見すると無関係な事柄の間に他者が気づかない関連性を見出し、これに基づいて別々の事柄を一つにつなぎ合わせる能力です。"

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

従来の遺伝子組み換えと違い、目的のDNAを的確に切り貼りできる技術が開発されました。
これを用いれば、怪我・病気に強く、知能や体力や容姿が優れている強化された人間を作り出すことも理論上可能です。
簡単で確実な技術であるため、自分を改良、自分の子孫を改良、人造遺伝子によって生まれる完全に近い人間の誕生、などは遠くない未来の話となるかもしれません。
SFの世界が現実となりつつある今、参考となる一冊。

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

人類はクリスパーという名の優れたメスを手に入れた。しかし、どこを切ればいいのかを示す地図は未だなく、その公算も立ってはいない。

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

遺伝子編集技術として革命的な「クリスパー・キャス9技術」を紹介した本。遺伝病の克服など多くの分野での利用が期待されている。クリスパー・キャス9の特長は、「DNA上の狙った箇所をピンポイントで切断、あるいは改変する脅威的な精度とスピード」にあるという。これまでの遺伝子組み換え技術とは格段の差が生まれる。また、これまでの技術がマウスに対してのみ適用可能な技術であったりしたところが、汎用的にすべての生物で使えるようになったことも大きい。

クリスパー・キャス9の説明だけでなく、エクソンやイントロン、選択的スプライシングの話など最新の遺伝子工学の知見を解説した記述も多く楽しめる。チンパンジーとヒトでは98%の遺伝子を共有しているとか、ヒト同士であれば、個人間のゲノムの違いは0.1%でしかない(0.1%でも320万箇所だが)とか、ヒトよりもネズミや稲の方が遺伝子が多いとか、いった雑学的な情報も入っている。SNPやSNVの定義も初めて知ったかもしれない。また、自然界での突然変異は比較的ありふれたものである。いずれにせよ、NHK編の『ゲノム編集の衝撃』よりも細かいことが書かれている。

ダウドナ、シャルパンティエというUSCの女性科学者たちとブロード研究所のフェン・チャンの間での特許権の争いにも触れられている。膨大な金額が動いてもおかしくない技術でもあるので、なかなか泥沼的なにおいがしている。

「「全能の技術」を手に入れてしまった私たち人類は、これから、どう進むべき道を決めていけばいいのか? 今の筆者に、その答えは思い浮かばない。あなたはわかるだろうか? 少なくとも、それを考える手がかりに本書がなり得たと願って、その筆をおきたい」と最後に書く。今後ともにその応用事例含めて追いかけらるべき技術でもある。

2016年9月、遺伝子組み換え種子で有名なモンサント社を独バイエル社が買収。彼らが使ってきた遺伝子組み換え技術とクリスパー・キャス9の遺伝子編集技術とは異なるものであることは本書でも解説されているが、こういった合併による巨大化よって、ますますDNAの研究と商用開発も加速していくのかもしれない。

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

クリスパーという技術はちょっとすごい。

大げさに言えば農業革命、産業革命、IT・AI革命に匹敵する遺伝子革命になり得るだろう。

人間というものは、理念や目的なんかではなく、技術が歴史をドライブしていくのだと改めて痛感。

ゲノム編集とは何か 「ＤＮＡのメス」クリスパーの衝撃

「ゲノム編集」という言葉を時々目に、耳にするようになって1～2年。
正直言って、本書を読むまで私は恥ずかしながらゲノム編集と遺伝子組み換えの違いを理解してはいなかったし、遺伝子やDNA、ゲノムに染色体といったそれぞれの用語が定義するものの区別もついていなかったが、それらの疑問が氷解するよう、最新の情報とともに分かりやすく説明してくれている。
科学的な理屈を最低限、キッチリと解説しつつも、門外漢に理解不能なレヴェルに陥らない、絶妙なバランスで書かれていると思う。

技術的に"できる"ことであるならば、その極限に挑み、押し上げ続けるのは研究者の性であろうし、また存在意義でもある。
このゲノム編集という技術に関しては、当然そこに「倫理」という別の枠組みを導入すべきなのは間違いないが、それがどこまで機能するのか、疑念は拭い去ることはできない。
ここまで技術は進んでいたのか、と先達の功績に感動を覚えるとともに、来るべき未来にうすら寒さのようなものを感じてしまう、そんな一冊だった。