#イリヤ | Explore Tumblr Posts and Blogs

takahashicleaning · 4 months

Text

ＴＥＤにて

イリヤ・サツキバー：AGIへのエキサイティングで危険な旅

（詳しくご覧になりたい場合は上記リンクからどうぞ）

これからの未来のヴィジョンとしての大前提は・・・

チャットGPTなどのAGIは、人工知能時代には、セレンディピティ的な人生を良くしてくれるメッセージを伝えてくれることの他に貨幣を事前分配、再分配して生活を下支えする役割に徹するべき。

例えば、GAFAMのようにアカウントに本人以外がアクセスしたら自動的にお知らせしてくれる方向性は良いサポートです。

OpenAIの経営改革がシリコンバレーを揺るがし、国際的なニュースになる数週間前に、同社の共同創設者兼チーフサイエンティストのイリヤ・サツキバーが汎用人工知能(AGI)の変革の可能性を探求し、それが人間の知能を上回り、人生のあらゆる側面を深く変える方法を強調しました。

AGIの約束と危険に対する彼の見解と、前例のないコラボレーションがどのように安全で有益な発展を確実にするかについての彼の楽観的なケースを聞いてください。

皆さんは人工知能の進歩を体験したことがあるだろう。コンピューターと会話したことがある人も多いだろうし、コンピューターがあなたを理解し、言葉を返してくれたこともあるだろう。

この進歩の速さであれば、将来のある時点で、知的コンピューターが人間と同じかそれ以上に賢くなることは想像に難くない。

そして、そうなったとき、そのような人工知能がもたらす影響が、本当に、本当に膨大なものになることも想像に難くない。

そして、あなたは疑問に思うかもしれない：テクノロジーがこれほどまでに影響力を持つようになっても、大丈夫なのだろうか？

そしてここで私が目指すのは、皆さんの多くが気づいていないかもしれない本当に、私たちが満足できる結果になることを期待させてくれる力の存在を指摘することなのだ。

人工知能。人工知能とは何なのか？

人工知能の仕組みを説明するのはとても簡単だ。たった一文だ。人工知能とは、大型コンピュータの中のデジタル頭脳にほかならない。それが人工知能なのだ。

あなたが見たことのある面白いAIはすべてこの考えに基づいている。何十年もの間、科学者やエンジニアたちは、そのようなデジタル頭脳がどのように機能すべきか、どのように構築すべきか、どのように設計すべきかについて考え続けてきた。

さて、人間の知性の中枢が生物学的な脳であることは興味深い。人工知能における知性の座が人工の脳であることは、ふさわしいことだ。

ここで少し脱線して、私がAIにのめり込んだきっかけについてお話ししたい。

私をAIに引きずり込んだ3つの力があった。まず1つ目は、私が幼い頃、5歳か6歳の頃、自分自身の意識的な経験、つまり、私は私であり、物事を経験しているという事実にとても衝撃を受けたことです。

物事を見るとき、私はそれを見ている。時間が経つにつれて、この感覚は消えていった。でも、この感覚は、私は私であり、あなたはあなたであるという感覚は、とても奇妙で、とても不穏なものだった。

それで人工知能のことを知ったとき、もし知能を持ったコンピュータを作ることができたら、自分自身について、自分自身の意識について何かわかるかもしれないと思ったんだ。それが、私をAIに引き込んだ最初の動機だった。

2つ目の動機は、ある意味でもっと平凡なものだった。私は単純に、知能がどのように働くのかに興味があった。私がティーンエイジャーだった頃、つまり90年代後半にティーンエイジャーになりたての頃、私が感じたのは、科学は単に知能がどのように働くのかわかっていなかったということだった。

第三の理由もあって、人工知能がもし機能すれば、それは信じられないほどインパクトのあるものになるだろうということが、当時の私には明らかだったのです。

人工知能を進歩させることが可能かどうかはまったく明らかではありませんでしたが、人工知能を進歩させることが可能だとしたら、それはとてつもなくインパクトのあることです。これが、私をAIに引き寄せた3つの理由です。

だからこそ、この分野に全力を注ぐべきだと思ったのです。

では、人工知能であるデジタル頭脳に話を戻そう。現在、このデジタル頭脳は、私たちの生物学的頭脳よりもはるかに賢くない。

AIチャットボットと話すと、それがすべてではないことがすぐにわかる。しかし、できないことが非常に多く、奇妙なギャップがあることがはっきりとわかります。しかし、この状況は一時的なものだと私は主張する。

研究者やエンジニアがAIの研究を続けているうちに、コンピュータの中に住むデジタル頭脳が、私たち自身の生物学的頭脳と同じくらい、あるいはそれ以上に優れたものになる日が来るだろう。

コンピューターは私たちよりも賢くなるのだ。

私たちはそのようなAIを「AGI」（汎用人工知能）と呼んでいる。私たちがAIに、例えば私や他の誰かができるようなことを何でもできるように教えることができるレベルと言えるとき。

したがって、AGI （汎用人工知能）は現在存在しないが、AGI （汎用人工知能）が構築された後の影響については、まだ少し知ることができる。そのようなAGI （汎用人工知能）が、生活のあらゆる分野、人間の活動や社会に劇的な影響を与えることは全く明らかです。

そして、簡単な事例を紹介したいと思います。これは、非常に広範なテクノロジーの狭い例です。私が紹介したい例は医療です。

皆さんの多くは、医者に行こうとした経験があるかもしれない。時には何カ月も待たされ、いざ医者に診てもらおうとすると医者と接する時間はごくわずかで、しかも医者は人間なので存在するすべての医学知識について限られた知識しか持っていない。

そして診察が終わるころには、高額な請求書が送られてくる（アメリカの場合）

もし、医者になるために作られたインテリジェント・コンピューター（AGI、汎用人工知能）があれば、それはすべての医学文献の完全かつ網羅的な知識を持つだろう。

何十億時間もの臨床経験を持ち、いつでも利用可能で非常に安価である。そうなれば、16世紀の歯科医療を振り返るように今日の医療を振り返ることになるだろう。

ベルトで人を縛り、このドリルを使う。繰り返しますが、これはほんの一例です。AGI （汎用人工知能）は人間活動のあらゆる分野に劇的で驚くべき影響を与えるだろう。

しかし、これほどのインパクトを目の当たりにすると「おやおや、このテクノロジーはインパクトが大きすぎるのではないか？」と思うかもしれない。

そして実際、AGI （汎用人工知能）のポジティブな応用には、ネガティブな応用もあるだろう。このテクノロジーはまた、私たちが慣れ親しんできたテクノロジーとは異なるものになるでしょう。次世代のAGI （汎用人工知能）で動作するAGI （汎用人工知能）を作ることは可能である。

このような急速な技術改良に最も近い類似例は、産業革命が起こったときです。その後、急速な増加、急成長を遂げました。AGI （汎用人工知能）によって、このようなことが再び起こる可能性がありますが、より短い時間スケールで起こるでしょう。

さらに、もしAGI （汎用人工知能）が非常に強力なものになった場合、それがエージェントである以上、もしかしたら不正を働くかもしれないという懸念もある。

つまり、この前例のない、まだ存在しないテクノロジーにはこのような懸念があるのです。そして実際、AGI （汎用人工知能）が持つポジティブな可能性と、AGI （汎用人工知能）が持つ懸念すべき可能性を見て、あなたはこう言うかもしれません。

私がOpenAIを創設した動機のひとつは、このテクノロジーを開発することに加えて、AGI （汎用人工知能）が投げかける疑問、困難な疑問、私たちが提起した懸念に取り組むことでした。

政府と協力し、今後何が起こるかを理解し、それに備える手助けをすることに加え、私たちはAIが決して暴れようとしないよう、技術的な側面への対応についても多くの研究を行っています。これは私も取り組んでいることです。

しかし、AIとAGI （汎用人工知能）は経済の中で唯一多くの興奮があり、多くの投資が行われ誰もがそれに取り組んでおり、世界中に同じものを作ろうとしている研究室が膨大にあるため注意する必要があると思います。オープンAIが私が述べたような望ましいステップを踏んだとしても他の企業や世界はどうなるのでしょうか？

そしてここで、私は存在する力についての観察を行いたい。その観察とは次のようなものだ：1年前の世界を考えてみてほしい。人々はAIについて全く同じようには話していなかった。

何が起こったのか？

私たちは皆、コンピューターと話して理解されるということがどういうことかを経験した。コンピューターが本当に賢くなり、最終的には私たちよりも賢くなるという考えが広まりつつある。以前は、一部の熱狂的なファンや趣味の人たち、AIに熱心な人たちだけが考えるニッチな考えでした。

しかし、今では誰もがそのことを考えている。そして、AIが進歩し続けテクノロジーが進歩し続けより多くの人々がAIに何ができるのか？AIがどこに向かっているのかを知るようになれば、AGI （汎用人工知能）がどれほど劇的で信じがたい。

そして、ほとんど空想的なものになるのかが明らかになり、どれほどの不安が適切なのかがわかるようになるだろう。

そして、私が主張することは、人々が自分自身の利益のために、かつてないほど協力的な方法で行動し始めるということだ。それは今すでに起こっている。例えば、フロンティア・モデル・フォーラムを通じて、AGI （汎用人工知能）のリーディング・カンパニーが協力し始めています。

また、競合関係にある企業が、自社のAIの安全性を高めるために技術情報を共有することも予想されます。政府がこのようなことを行うこともあるでしょう。もう一つの例として、オープンAIでは、AGI （汎用人工知能）がどれほど劇的なものになるかを本当に信じていました。

テクノロジーがAGI （汎用人工知能）に、つまり人間よりも賢��コンピューターに非常に近づいたとき、もし他の企業が私たちよりずっと先を行っているのであれば、私たちは競争するのではなくある意味で彼らを助け彼らに加わることになるでしょう。

なぜそうするのか？

なぜなら、AGI （汎用人工知能）がどれほど劇的なものになるかを私たちは感じているからです。

そして私の主張は、各世代の能力が進歩するにつれて、AIがより良くなるにつれて、そして皆さんがAIにできることを経験するにつれて、AIやAGI （汎用人工知能）への取り組みを運営する人々やそれらに取り組む人々も同様に経験するにつれてAIやAGI （汎用人工知能）に対する見方が変わり、それが集団的な行動を変えるということです。

そしてこれが、この技術がもたらす大きな課題にもかかわらず、私たちがそれを克服できると私が期待する重要な理由なのです。

ありがとう。

(個人的なアイデア)

前提として、公人、有名人、俳優、著名人は知名度と言う概念での優越的地位の乱用を防止するため徹底追跡可能にしておくこと。

その後、西洋占星術でいう風の時代が到来。

２０２０年から新型コロナウイルスのパンデミック。

２０２２年から続いて、ロシアのウクライナ侵攻。

２０２３年では、幼稚ではあるが人工的な神のような回答するチャットGPTが登場。

「エピソード7意識のマップの数値と人工知能を訓練する計算回数が相似？」でも指摘しているように

兆候が顕在化してきています。

エピソード7の意識のマップでも、表示しているように、人工の神を創造するともなれば、その最初のステップで一神教が言うような全知全能の神ではなく

カイヨワも言い一神教も言うようなあらゆる悪魔が顕現するような可能性も否定できません。

よく一神教で登場すると言われるパンドラの箱の話に似ています。

ニックボストロムが言う「黒い玉」「死の玉」のことかもしれません。

Before 2022, this would not have been possible, but with Apple, Google, and Microsoft agreeing to expand the use of “passkey,” a passwordless authentication system…

２０２２年以前では、不可能だったが、Apple・Google・Microsoftがパスワードなしの認証システム「パスキー」の利用拡大に合意したことで・・・

…on the basis of high security and a high degree of privacy as well…

高いセキュリティと高度なプライバシーも基本にして・・・

…and if, as Ivan Pupilev says, all everyday objects have gesture interface capabilities…

イワン・プピレフの言うように日常的な物すべてにジェスチャーインターフェース機能を搭載していれば・・・

By integrating them with a common smart home standard, “Matter,” and making it possible to automatically connect to them by simply approaching them, assuming permission and authentication…

スマートホーム共通規格「Matter」で統合して近づけるだけで本人の許可、認証を前提とし自動接続できるようにすることで

It may be possible to customize even simple functions as complex functions by combining various devices in a stand-alone manner.

単体では、単純な機能でもさまざまな機器を組み合わせることで複雑な機能としてカスタマイズできるようにできるかもしれない。

In the past, OpenDoc, a technology developed by Apple to realize compound document and document-centered operation, was available.

かつて、OpenDoc（オープンドック）は、Appleが開発したコンパウンド・ドキュメントとドキュメント中心の操作実現する技術があったが

Can we extend this technology to shift from a document-centric to a gesture-centric interface?

これを拡張して、ドキュメント中心からジェスチャーインターフェース中心にできないだろうか？

If you want to work on a larger screen from your smartphone, iPhone, or iPad with a user interface by wearing the Oculus Dash or HoloLens from Oculus Quest

Oculus QuestにあるOculus DashやHoloLensなどを身につけることでユーザーインタフェースをスマートフォン、iPhone、iPadからもっと大きい画面で作業したい場合

It was usual to use a computer with a large screen, but now it is possible to use a huge screen! However, there were limits to the amount of money and placement of the display.

大画面のパソコンでというのが、普通でしたが、もっと、巨大な画面で！！という場合はディスプレイの金額的、配置場所にも限界がありました。

Virtual reality as the future of the holographic age, Virtual reality Virtual reality OS and its extension to the gesture interface center.

ホログラム時代の未来にあるものとして、Virtual reality バーチャルリアリティのOSとジェスチャーインターフェース中心への拡張

Seamlessly linked together, there will be no spatial limits, and you’ll be able to work in a small room with any number of huge, large screens that you can place anywhere in 360 degrees!

シームレスに連携させることで、空間的に限界は無くなり、小さな部屋でいくらでも巨大な大画面で３６０度どこにでも置いて作業できるようになります！！

For example, even if it is not possible to display 3D without wearing glasses like the gesture interface in the sci-fi movie “Iron Man”…

例えば、SF映画「アイアンマン」に出てくるジェスチャーインターフェイスのようにメガネをかけずに立体表示させるとまではいかないまでも

It may be possible to “make it look realistic by wearing special glasses” such as Oculus Dash and HoloLens in Oculus Quest, so…

Oculus QuestにあるOculus DashやHoloLensなど「特殊なメガネをかけることでリアルに見せる」ことはできそうなので・・・

It would be fun to display the setting panel of a simple function device that you touch through the special glasses as if it pops up from inside the device in CG in a hologram format (image: Genie Effect on Mac)

特殊なメガネを通して、触った単純な機能の機器の設定パネルをホログラム形式でCGで機器の中からポップアップするように表示してくれると楽しそう（イメージは、Macのジニーエフェクト）

警察比例の原則。

最近２０２３年から始まったジェネレーティブ人工知能の流行によって

ジェネレーティブ人工知能で作られたメディア（画像・映像など）が人々の目に触れる際には、情報源を開示するよう求めている（オープンAIなど10社が自主ガイドラインに署名した）

ヘンリー・マークラムの研究で脳のイメージが数値化されたデータから・・・

この膨大なデータをディープラーニングを搭載したジェネレーティブ人工知能に候補を複数映像化させる

こうすることでストーカーしかできない人工知能の問題を解消できる？かもしれない

憲法第19条にもあるように「内心の自由」正確に特定しないようにして

権力者の頭脳の中身をリアルタイムに複数映像化したことをチャットGPTに説明してもらう。

これは三つしかない内のひとつ。リカレント・ニューラル・ネットワークを使います。

この権力者の頭脳の中身をリアルタイムに映像化したことをニティシュ・パドマナバンの老眼鏡を含めた未来の自動オートフォーカス搭載メガネなどを用いて

特殊なメガネを通して、ホログラム形式でCGからポップアップ表示できる可能性もありそうです。

しかし

機械学習ディープラーニング物体検出データベースのことを「Darknet」と呼んでいます。

フェイフェイ・リー構築した機械学習ディープラーニング画像データベースのことを「ImageNet」と呼んでいます。

他には、今のところ、リカレント・ニューラルネット（RNN）フレームワークなど・・・

たった三つしかないのが２０２２年の現状です。

チャットGPTは、大規模言語モデル。

懸念されることとして、アメリカ政府が諜報に使用するエシュロンやPRISMに近い可能性もある。

Google検索データは、広告に使われるが、オープンAIはMicrosoftと資本提携で入力データが何に使用されるか？

これを明示していないという危険性がある可能性があります。

続いて

Could it be that Apple is developing its own search engine to compete with Google, which has reinvented semantic web search based on chat GPT and entered the market?

Appleが独自の検索エンジンを開発しているのは、もしかしてチャットGPTを基盤にしてセマンティックウェブ検索を再発明し参入Googleに対抗するため？

In the past, Linux made the OS open source and extinguished Microsoft’s monopolistic Wintel-closed dominance.

かつて、LinuxはOSをオープンソース化してMicrosoftの独占的なウィンテルクローズの優位性を消滅させた。

In 2023, AMD and Apple Silicon are in the midst of blowing the wind out of the last Intel monopoly from the consumer market sector.

AMDとAppleシリコンが、最後のIntelの独占体制にコンシュマー市場分野から風穴を開けている最中の2023年。

Google has opened up the search engine market for a new industry by putting all of its machine learning research results to work to break Microsoft’s Internet Explorer monopoly.

Googleは、機械学習の研究成果をすべてぶちこみ新産業の検索エンジンの市場を切り開いてMicrosoftのインターネットエクスプローラの独占的な体制に風穴を開けた。

And now, right now, open-source AI is taking over Google’s monopoly on the search engine market with chat GPTs. It may be about to wind down with the reinvention of the semantic search engine proposed by Tim Berners-Lee.

そして、今まさにオープンソースAIが、チャットGPTでGoogleの独占している検索エンジン市場をティム・バーナーズ・リーが提唱したセマンティック検索エンジンという再発明で風穴を開けようとしているのかもしれません。

Is Twitter, which Eron Musk went to the trouble of investing a huge amount of money to acquire, comparable to Google and Facebook in terms of data accumulation?

イーロンマスクがわざわざ巨額の資金を投じてまで買収したTwitterもデータの蓄積から見るとGoogle、Facebookに匹敵している？

Is it possible that Eron Musk, a founding member of Open AI, is trying to reinvent Twitter based on chat GPT?

これを立ち上げてるオープンAI設立メンバーのイーロンマスクは、可能性を見越していてチャットGPTを基盤にTwitterを再発明しようとしている？

Open AI, a San Francisco-based nonprofit organization, is dedicated to being the first to develop a “general-purpose artificial intelligence” (AGI) with human learning and reasoning capabilities, so that all people can benefit from it.

サンフランシスコを拠点とする非営利団体のオープンAIは、人間の学習能力と推論能力を持つ「汎用人工知能（AGI）」を最初に開発し、すべての人にその恩恵が及ぶようにすることを目的として設立されています。

Deep Mind,“ which has similar goals, is building a system similar to the chat GPT.

同様の目的を掲げてる「ディープマインド」もチャットGPTと同じようなシステムを構築しています。

As for other derivative…

他の派生的なこととして・・・

As for the use of deep fakes, if they are built into the algorithm for all surveillance cameras, they can be removed only with the person’s permission.

ディープフェイクの活用としては、すべての監視カメラ用のアルゴリズムに組み込んでおけば、外すには本人の許可を得てからにすることもできる。

This would also deter voyeurism by the mass media and police who would abuse the system without the person’s permission.

こうすれば本人の許可なく悪用するマスメディアや警察の覗き見行為も抑止できる。

To temporarily deter misuse, a comprehensive mechanism could be created to protect videos with NFT and a two-factor authentication passkey, and to confirm one by one whether or not the user has permission to disseminate the videos.

一時的な悪用抑止には、NFTと二要素認証によるパスキーで動画を保護し拡散の許可の有無を一つ一つ

If a comprehensive mechanism can be created to confirm whether or not the user has permission to spread the video, it may be possible to create time for the spread of quantum encryption and the commercialization of quantum computers.

本人に確認できるような総合的な仕組みを創れば、量子暗号化や量子コンピューター商用化普及までの時間をつくれるかもしれない。

Released in November 2022. Almost a few months later. A search engine like this appeared.

2022年11月にリリース。そのほぼ数ヶ月後。こんな検索エンジンが登場しました。

perplexity

この回答がどこの記事から引用されたかも表示されはじめた！数字に対応して引用元が表示される。

Next, why? What if the chat GPT could explain how it might have come to this explanation? Perhaps we are getting closer and closer to an explainable AI?

次は、なぜ？この説明に至ったのかもチャットGPTが説明できたら？もしかして、説明可能なAIにもどんどん近づいてきてる？

In about a few months, this threatening? No, an astounding achievement.

数ヶ月位でこの脅威的な？いや、驚異的な成果。

And the Schrödinger equation?

シュレーディンガー方程式も？

For explanations other than equations, it could be comparable to Wolfram Alpha, which is similar to semantic web search.

数式以外の説明に関しては、セマンティックウェブ検索に近いウルフラムアルファにも匹敵する可能性もある。

そして

チャットGPTの人気と爆発的な成長に乗りMicrosoftが先行してチャットGPT 搭載 Bingをリリースするも登録しないと検索結果は会話調で返ってこない？インターフェイスがわかりずらい。

一方、Googleも億人単位規模ネット情報サービスにも関わらず、わずか一日位で対応すると言う離れ技を繰り出すが、検索エンジンの検索結果は、まだ会話調で返ってこない。

両者共に、まだまだ時間がかかりそうだ。

このチャットGPTタイプの新型検索エンジンperplexityのほうに分はあります。