2023 Intelligent Source ConferenceでのAIセキュリティの話題が注目を集め、新刊『Human-Machine Alignment』が発売されました。

AI分野の多くの探検家や実践者が集まり、研究結果を共有し、実践経験を交換し、科学技術の美しさについて語り合いました。2023年北京インテリジェントソースカンファレンスはこのほど成功裏に開催されました。人工知能の分野、この輝かしい知恵 アイデアの交換や何百もの素晴らしいレポートやディスカッションを通じて、私たちは知能の驚くべき進化を共同で目撃することになります。

AI セキュリティと調整フォーラムでは、多くの専門家や学者が大規模モデルの時代に、ますます強力かつ多用途になる人工知能システムが安全で制御可能であり、人間の意図や価値観と一致していることをどのように保証するかについて意見交換しました。は非常に重要な問題です。この安全性の問題は、人間と機械の調整 (AI 調整) 問題としても知られており、今世紀の人類社会が直面する最も緊急かつ有意義な科学的課題の 1 つを表しています。

フォーラムでは、「ディープラーニングの父」ジェフリー・ヒントン氏、OpenAI 創設者サム・アルトマン氏、学者の張博氏を含む国内外のゲスト 14 名が、人間と機械の調整と大規模モデルの実現可能性に焦点を当てました。ブライアン・クリスチャン氏の最新作「The Alignment 問題」（中国語版のタイトルは「Human-Machine Alignment」）もカンファレンスで正式に発表されました。この本は湖南省科学技術出版局によって紹介および出版され、Anyuan AI によって書評されました。 Anyuan AIの創設者であるXie Minxi氏が新刊発売式を主宰した。

「Human-Computer Alignment」の著者であるブライアン・クリスチャン氏がオンライン講演に招待されました。スピーチでは、まず読者と会合に出席したゲストに挨拶を送りました。彼は新刊『Human-Machine Alignment』の出版を光栄に思っており、この本が中国における人工知能分野の継続的な研究に貢献できることを期待している。同時に、「人間と機械の調整」の主な内容について簡単に紹介します: この本は 3 つの部分に分かれており、最初の部分では機械学習システムに影響を与える現在の倫理と安全性の問題について説明します。 3 番目の記事では、教師あり学習、自己教師あり学習、強化学習に基づいて、現実世界の複雑な AI システムを調整する方法について説明します。中国での『Human-Computer Alignment』のリリースが研究者を助けるだけでなく、この分野に対する私たちの熱意を専門家以外のあらゆる人々に伝えることにも役立つことを願っています。最後に同氏は、今回の会議での議論や中国のAI分野の研究を通じて、人工知能分野の世界的な発展が促進されることへの期待を表明した。

《人間と機械の調整》

【米国】Brian Christian 著、Tang Lu 訳

出版社: 湖南科学技術出版社

最新の機械学習システムは非常に強力になっており、さまざまな状況で私たちに代わって情報を観察したり聞いたりして、私たちのために意思決定を行うことができます。しかし、警鐘が鳴らされている。機械学習が急速に進歩するにつれて、懸念も高まっています。人工知能 (AI) が私たちの真の目標と矛盾して動作する場合、潜在的なリスクや倫理的問題が発生する可能性があります。研究者らはこれをアライメント問題と呼んでいます。

ブライアン クリスチャンは、AI と私たちにとって切り離せない問題を生き生きとした文体で明確に説明しており、彼のベストセラー作品の読者は多くの恩恵を受けています。この本の中で、私たちはアライメント問題に積極的に取り組んだ最初の学者たちを知り、AIの開発が制御不能になるのを防ぐための彼らの並外れた努力と野心的な計画について学びます。クリステンは、機械学習の発展の歴史を簡潔に説明しただけでなく、自ら科学研究の最前線に深く入り込んで科学者と対話し、機械学習の最先端の進歩を正確に紹介しました。配列問題の研究の成否は人類の将来に重大な影響を与えるものであり、読者はそれを深く実感することができる。

調整の問題は、人間としての私たち自身の偏見や盲点を明らかにする鏡でもあり、私たちが決して明言されていない思い込みや、しばしば矛盾する目標をはっきりと見ることができるようになります。これは、人間のテクノロジーだけでなく人間の文化を検証し、時にはイライラさせ、時には啓示を与える、素晴らしい学際的な叙事詩です。

この本は海外で出版されると熱狂的な反響を呼び、Microsoft CEO Satya Nadella によって 2021 年に最もインスピレーションを与えられた 5 冊の本の 1 つとして挙げられ、ニューヨーク タイムズによって主要な AI テクノロジーとして評価されました。著者のブライアン・クリスチャン氏は次のように述べています。「中国の AI 分野と、より広範な中国の読者にもこの本が読まれることを願っています。皆さんにとって、この本が内容が豊富で、考えさせられ、刺激的なものであることを願っていますが、そうではないでしょう。研究者としてのあなたを助けるだけでなく、この分野に対するあなたの熱意をあなたの人生のコンピュータ科学者以外の人々に伝えるのにも役立ちます。」

暁翔朝報記者、周世豪

以上が2023 Intelligent Source ConferenceでのAIセキュリティの話題が注目を集め、新刊『Human-Machine Alignment』が発売されました。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。