岡野原大輔のレビュー一覧

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

タイトルにある通り、
「知能」とは何か、を定式化し、大規模言語モデル(LLM)が
それを満たすといえるのかを問うたり、
あるいはLLMのふるまいから「知能」とは何かを考える
道筋をつけるものかと思って購入したが、
そういうのはほとんどなかった。
帯にあたる部分に書いてある、
「何が可能か」「どんなリスクがあるか」「どう付き合うか」
がメイン。
LLMやその他の言語学習モデルが簡単に説明されている。
同シリーズの「クオリアはどこからくるのか？」を
先に読んでいたので、そういった内容を期待して
肩透かしを食らってしまったが、
ChatGPTなどの啓蒙書としてはちょうどいいかも。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

私もChatGPTを使い始めたが、まだ、日本の地方やマニアックな話題は難しそうである。ただ、上手く使えば使い道はあると思った。
このまま性能が上がれば、世の中は変わっていくだろう。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

【星:3.5】
本書のテーマに対する私の知識不足が原因と思われるが、色々分からないところがあった。

本書は一般向けとの事であるが、多分AIとかに一定レベルの知識を持った一般の方向けというこだと思う。

ただ、理解出来た部分については色々と参考になり、今後AIについての一定程度の知識が必須となることは肌身で感じることができた。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

成功のキーは「大規模」であった。画期的な新しい方式をとったわけではない。なんとなく思っていた通りだ。ただ、なんと実現した人達もなぜうまく行ったかわかってない、というのは驚き。

AI技術の最前線 これからのAIを読み解く先端技術73

全部理解するのは無理でした。
興味を引く部分がそれぞれの読者にあるはずで、そこから調査を広げ深める入り口として良著だと思いました。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

プリファードネットワークス社の創業者、西川徹さんと岡野原大輔さんが、PFNの創業の経緯や、今の事業内容（研究内容）について、専門家でもない人に分かりやすく書いた書籍です。
日本にPFNのような尖ったベンチャーが次々に現れるといいな！と思う内容でした。

ディープラーニングを支える技術——「正解」を導くメカニズム［技術基礎］

4章の後半くらいから難しかったですが、
・強化学習が教師あり学習とどう違うポジショニングにあるか
・正規化層の役割
・アテンション機構
のあたりは個人的に理解が深まった部分もあり良かったです。使っていく中、問題に出会う中で振り返ると良さそうな本だと思います。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

刺激的な題名だなと思って手に取った為、恥ずかしながらPFNのことは全然知りませんでした。本の内容はPFNがどのような会社で何を目指しているのかでした。凄い企業が日本にあるのだと知れて良かった。大人になったら学ばなくて良いと、学生の頃思っていましたが、社会人になっても仕事する為にはある程度学ばなくちゃいけない。ただ、その学ぶレベルや量がPFNの人達は全然違う。彼等程にはなれなくても、頑張らねばと身が引き締まる思いでした。パーソナルロボット産業はまだ覇者がいないと思うので、イーロン・マスク等に負けず、頑張って頂きたい！

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

コンピュータに詳しい人、興味を持てる人は強いなと改めて思う。何もかも重要だが、自分のこころが震える経験をするためには、なんでもやる全部やるの精神も重要だろう。その辺りのバランスがいつもわからなくなる。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

著者が大事にしていることを理解できた。
深層学習、強行学習についてもたくさん触れられていて、
とても勉強になった。

★motivation driven ; 熱意を元に
自分たちが自ら選び、成果と真剣に向き合う。
簡単すぎるコンフォートゾーンと、難しすぎるパニックゾーン、そのあいだにあるラーニングゾーン。
今よりちょっと背伸びできるタスクがラーニングゾーン。
ラーニングゾーンを目標に設定すべきである。
★演繹的なプログラミングから、帰納的な手法へとパラダイムシフトが起きている
★相手のことを尊重できて、自分自身にちゃんと取り込めているのかといった成長の軸が大事である
★どんどん新しいことにチャレンジし続けられる環境をつくること、壁があれば取り除いてあげることが私にはあっている

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

学ぶことが死ぬほど大好きな東大の院生が作った会社の社長と副社長が書いた、企業概要。
第５章が、機械学習や深層学習業界の優れた要約になっているとの評判を読んで、気になって買ってみた。実際読んでみると、門外漢の自分でもなんとなく分かったような気になってくるから、大したもんだ。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

PFNの人が考えを語る本
思ったより普通な感じ、これをやりきるのが大事なんだろうな

技術的に突き詰める、注力するのが大事的なことがよく書かれているが、まあそうなんだろうなという感じ
・熱意を元に
・死ぬ気で学べ
・誇りを持ってしかし謙虚に
・誰もしたことがないことを大胆になせ
複数の専門性を持つ、評価指標をあえてぼかす、全社員が個人ページを公開する
自分たちができることで、自分たちにしかできないことを見つけ出してやる

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

Preferred Networksの創業者の西川氏と岡野原氏の著書
PFNの原点から今までの成長までの軌跡と
彼らの考えている内容を書いてくれている本
特に出会いから書いてあり、創業当初の彼らの考えもわかる
深層学習に興味を持ったきっかけや、出資しているファナックなどについても語っていて
個人的には面白いと思う反面、自分に置き換えると妙な気分になる本

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

AI・ロボット・自動運転・がん診断等の事業を行う株式会社Preferred Networks(PFN)の西川徹さんと岡野原大輔さんによる著書。PFNの掲げている存在意義・価値基準・組織・技術開発等の思想が語られる。パーソナルコンピュータの次に来るのはパーソナルロボットだと定義してロボット開発に取り組んでいるのは未来感があり面白い、組織もホラクラシー型のフラットな形で構成されているようで、社内の風通しも良く、いろんなアイデアが浮かんでは実現に向けて開発を進めるような環境が整っていると感じれた。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

日本人エンジニアの憧れ企業の価値観と思考を学ぶ。コンピュータの力で実世界の課題を解決する企業を目指して

●本の概要・感想
グーグルなど有名スタートアップから転職者が集まるPFN。彼らの会社の沿革と、ビジョンを知ることができる。

＊PFNは途中で分社化して誕生した企業
　もともとは検索技術などの会社だったが、2014年に転換を決意。IoTと深層学習を組み合わせて、リアルタイム機械学習技術の会社として誕生した。それまでは、機械のデータをAIで処理する、ということは誰もやっていなかった

＊技術で飯を食うビジネスモデル
　 PFNは、これまで研究を「ビジネス」として利益を上げ、成長してきた。「受託開発をやらない」ことを一貫し前提として、自分たちが高い技術を保有する。そこで、「技術を使って何かやりたい企業」からの共同研究　を受注するのである。 顧客が実現したいビジョンをサポートする、高い技術力を保有しておくことで、「共同研究」によって飯を食うことができる。だから、PFNの社是には「Learn or Die」がある。様々なエキスパート、一流ジャーナルへの寄稿経験が豊富な者が集まるのだろう。売れるビジネスの基本は差別化であるが、PFNの戦略はその点シンプルだ。「他の企業よりも技技術力がある」、その点が大きな強みであり、他社にとっての参入障壁でもある。「日本国内でトップレベルの研究開発が可能なAI技術者集団」である、あり続けることがコアコンピタンスを作っていると分かった。

＊分散深層強化学習によって「おもちゃの自動車がぶつからずに走る」

＊深層学習によってロボットと自動車を進化させる
　パソコンがOSによって様々なデバイスを抽象化し広まった。あらゆるデバイスで同一のプログラムが流れた。それと同じように、ロボットは現実世界の環境を抽象化する。多様性に強い深層学習によって、現実世界での膨大な学習を重ね、「現実」というOSの上で柔軟に稼働するロボットを創造する

●読んだきっかけ
みんな大好きつよつよエンジニアが集まる企業の本なので、駆け出しエンジニアとして読んでおくべきかと思った

オンライン機械学習

実務でビッグデータ的な方面について手を出し始めたので会社の蔵書からいくつか選んで読みましたが、実用的な入門本ていう感じで良かったです。