人工知能を破壊して人類を破壊するために戦う男に会う

Jaan Tallinn; Jarek Joepera / Ambient Sound Investments;人工知能では、研究の速さと潜在的な利益の規模は、ハイテク企業がリスクを考慮せずに全面的に前進する動きが増えています。

あなたの買い物カゴの人工知能:オンライン小売業の機械学習;人工知能の進歩:マイクロソフトはコーギーを配備してイメージングでGoogleを打ち負かす;人工知能でサイトを設計できるか?グリッドはそう望む

今年の初め、TeslaとSpaceXの創設者Elon MuskはAIが人類に利益をもたらすことを確実にすることを目的とした世界的な研究プログラムに資金を提供するため、Future of Life Instituteに1000万ドルを寄付しました。この研究所は、SkypeとKazaaの創設者としての役割を果たしている最も有名なエストニアの技術起業家の1人であるJaan Tallinnによって昨年3月に共同設立されたボランティア団体の研究とアウトリーチ組織です。

ボストン地域研究所は、人間レベルの人工知能の開発から潜在的なリスクを研究することに焦点を当てており、その科学諮問委員会メンバーには、Stephen Hawking、Elon Musk、カリフォルニア大学バークレー校のMIT、Oxford、Univeristy of Universityケンブリッジ、他の専門家の間で。

ホワイトハウスが連邦最高情報セキュリティ責任者を任命、セキュリティ、国防総省によるサイバー緊急対応の批判、セキュリティ、HTTP接続を安全でないと表示するChrome、セキュリティ、Hyperledgerプロジェクトがギャングバスターのように成長している

「高度なAIの構築はロケットの打ち上げに似ています。最初の課題は加速を最大限にすることですが、速度が上がるとステアリングにも焦点を当てる必要があります」とTallinn氏はMuskの投資時点で述べています。

タリン氏は、ゲーム業界での経験がほぼ10年のため、常に人工知能に興味を持ってきたが、技術の安全性を確保することへの関心は最近の発展であるとウェブサイトに語った。

SpaceX創設者のElon Musk、物理学者のStephen Hawking、そして様々な人工知能研究者たちは、AIが人類に与える挑戦を準備するために、

1986年にはわずか16歳で、公立学校で使用するための8ビットコンピュータを組み立てる地元企業のソフトウェア開発を開始しました。 3年後、タリンは、国外で初めて出版されるエストニアのコンピューターゲームであるコスモノウの創作に携わり、1993年には、FastTrack P2Pプロトコルと有名な音楽共有アプリケーションを作成し開発したBluemoon Softwareを共同設立しましたそれを使用したカザ。

その後、彼の仲間であるBluemoon cofounders Ahti HeinlaとKasesaluと一緒に、TallinnはKazaaのバックエンドを使ってSkype用のソフトウェアを作成するのを手伝ってくれました。

近年、様々な新興分野への関心が高まっています。たとえば、2012年にパーソナライズされた医療コンサルティング会社Metamedを共同設立し、昨年Googleから約650mの買収を受けたDeepMind Technologiesの人工知能企業の初期投資家でした。

ヒューマン・ライツ・インスティチュート・オブ・ライフ・インスティテュートのほかに、彼はケンブリッジ教授ヒュー・プライスとマーティン・リーズとの間に存在リスク研究のためのケンブリッジ・センター(CSER)の設立を手伝った。

人類の未来へのテクノロジーとその影響は、常に彼にとって魅力的です。

何年もの間、私は様々な組織が技術から「存在するリスク」を減らそうとしている、いわゆる「Xリスク・エコシステム」をフォローしてきました」Life of Future Instituteは[Cosmologist] Max Tegmarkは彼の本を完成させ、その結果として解放された時に重要なことをしたいと言った。私はマックスを非常に有能な人物として知っていたので、すぐに彼のプロジェクトに参加してサポートすることにしました」とタリンは語った。

タリンは主に「制御問題」に興味があります。スマート自律システムの予測方法や堅牢な制約方法を理解することです。 「これは現場で最も挑戦的な問題の1つであるだけでなく、かなり低い評価を受けています。

タリンによると、人類はAIの急速な発展から生まれたさまざまなリスクに直面しています。それは単に私たちに関係する技術的特異性だけではありません。

「まだ生まれていない人々の潜在的な兆候を数えれば(私が信じるように)、存在するリスクは他のすべてのものを完全に支配しています。スマートシステムが雇用市場を混乱させるようになった」とタリン氏は語った。

彼は特異点でのブレークスルーがいつ起きるかをまだ予測することはできませんが、それが起こった場合にはいつでも準備ができているはずです。

AIの専門家を対象としたいくつかの調査では、今世紀半ばまでに人類や超人のAIの確率は50%であることが示されていますが、そのような調査は信頼できる予測因子ではありませんが、 、” 彼は言った。

タリン氏は、AIの発展に関する規則や合意は、国際政治機関からではなく、業界から出てくるべきだと考えている。

「AIの安全問題を理解している政策立案者には何の兆候も見られていないため、この段階では規制がほぼ確実に利益を上げることになりそうだ」AI業界のコンセンサスには、 、” 彼は言った。

タリンは、AIの次の大きな発展が、消費者が日常生活で経験して自転車になることを期待しています。

AIが支援した拡張現実はおそらく巨大なものになるだろう」と述べた。

人工知能

ホワイトハウス、連邦最高情報セキュリティ責任者を任命

国防総省のサイバー緊急対応を批判したペンタゴン

ChromeがHTTP接続に非セキュアとしてラベルを付けるようにする

Hyperledgerプロジェクトはギャングバスターのように成長しています