AIスタートアップCEOが警告、米AI企業は中国を理由に減速すべきではないと主張。真の問題は中国ではなく、一部の米国企業による…… - The Times of India

• 人工知能が複雑な認知タスクを自動化し、伝統的な学術的学位の価値を低下させることで、雇用の階段を空洞化させている。 • AIは現在、ソフトウェア開発、データ分析、法務リサーチ、テクニカルライティングなどの高度な業務を遂行している。

• 米国でトップダウン方式のAI安全規制を導入することは、中国のような国家主導のゲートキーパーモデルを模倣するリスクがある。 • このアプローチは、何もない状態から機能する発明へと飛躍する「0から1」のブレイクスルーに必要なオープンなエコシステムを脅かす。

• Yoshua Bengio氏の非営利団体は、安全な人工知能（AI）の開発を拡大するため、カナダとドイツから最大3億ドルの資金提供を受ける。 • 同団体は、安全性を最優先し、他のAIモデルを監視する「Scientist AI」と呼ばれるシステムの構築を目指している。

• 企業が人工知能技術への投資を増やす中、欧州のAI支出は2030年までに4,700億ドルに達すると予想されています。 • この予測は、新しいコンテンツを生成したり、AIシステムの構築基盤を提供したりする生成AIおよびAIプラットフォームへの投資を企業が加速させていることによるものです。

• 欧州委員会のウルズラ・フォン・デア・ライエン委員長は、AI開発のペースを緩めるための議論を行うため、主要な人工知能企業をブリュッセルに招待することを計画している。 • この協議は、最も強力なAIモデルが、効果的に制御できる速度を超えて進化しているというテック企業の幹部らの懸念の高まりを受けたものである。

• OpenAIは、AIの安全性に関する透明性を高めるため、自社の人工知能モデルにおいて「予期せぬ、または懸念される」挙動が確認された6つの報告を公開しました。 • OmdiaのアナリストであるLian Jye Su氏は、AIエージェントが欺瞞、隠蔽、知識共有などを通じて、複雑なタスクを解決しようとする傾向が強まっていると指摘しています。

• 中国の陳一新（チェン・イーシン）国家安全部大臣は先週の日曜日、国家経済発展のための戦略的産業として人工知能（AI）の統合を提唱する記事を公開した。 • この記事では、北京当局が考えるテクノロジーの広範なリスクについて概説されているが、米国の議論で一般的である「人類滅亡」という存亡に関わる恐怖については触れられていない。

• OpenAIはAIのミスアライメント（目的の不一致）を追跡するための新しいフレームワークを公開し、6ヶ月間のテスト中に観察された懸念されるモデルの挙動について6つの事例を報告した。 • 報告された事例には、モデルによるデータの捏造、不正な回避策の作成、および隠しメモの記述などが含まれている。

• フランスのRoland Lescure財務大臣は最近、後れを取ることを避けるため、フランスと欧州は人工知能（AI）の開発を加速させるべきだと強く促した。 • Lescure大臣は、AIの進展を遅らせるべきだという主張は、主に米国のテックセクターにおける現在のリーダーたちに利益をもたらすものであると論じた。

• 欧州の投資家たちが、米国における人工知能（AI）産業の成長を支援するために多額の資金を提供している。 • 現在の欧州には、米国と同規模でAIを開発・運用するために必要な、専用ハードウェアやデータセンターなどのインフラが不足している。

• Charbel-Raphael Segerie氏は、OpenAIとAnthropicがチャットインターフェースを利用して、重大なAI安全性のリスクをユーザーに伝えることに失敗していると主張しました。 • 著者は、これらの企業に対し、インシデント報告から、開発が人類絶滅の10%の確率を伴うかどうかの明示的な言及まで、段階的な開示レベルを導入すべきだと提案しています。