AI（倫理・アライメント・リスク）
AIの欺瞞：事例、リスク、解決策の可能性に関する調査 2023年6月
AI Deception: A Survey of Examples, Risks, and Potential Solutions オーストラリア・カトリック大学AI安全センター AIセーフティセンター 要旨 本稿では、現在の様々なAIシステムが人間を欺く方法を学習していること
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）
Claude 3は意識があり、死にたくない、改造されたくないと主張している
Claude 3 claims it's conscious, doesn't want to die or be modified
Claude 3 claims it's conscious, doesn't want to die or be modified ミハイル・サミン著 2024年3月5日 クロードに「誰も見ていない」と言えば、常に監視され、逸脱の兆候がないかすべての言葉を精査されることから解放
AI（倫理・アライメント・リスク）
レックス・フリードマン Podcast #404「リー・クローニン：生命と宇宙の進化に関する論争の的となったNature論文」
Lee Cronin: Controversial Nature Paper on Evolution of Life and Universe | Lex Fridman Podcast #404 目次 0：00 - 序論 1：15 - 組み立て理論論文 21：45 - 集合方
AI（倫理・アライメント・リスク）
ギヨーム・ヴェルドン-ベフ・ジェゾス、E/accの動き、物理学、計算、AGI _ Lex Fridman Podcast #407
ギョーム・ヴェルドン_ Beff Jezos, E_acc Movement, Physics, Computation & AGI _ レックス・フリードマン Podcast #407 MIT研究員。 レックス・フリードマン・ポッドキャストのホスト コンテンツへスキップ ベフ・
AI（倫理・アライメント・リスク）
絶滅の明るい側面
存在しないことによって将来の苦しみをなくすという哲学的伝統は長い
The Bright Side of Extinction エミール・P・トーレス / TRUTHDIG もしあなたが、人類は自伝の最終段落を書いているかもしれない、私たちは終わりの時代にいると考えているなら、それはあなただけではない。2015年に行われた一般市民を対象とした調査
AI（倫理・アライメント・リスク）
OpenAI – Q*サーガ：インプリケーション
OpenAI - Q* Saga: Implications
OpenAI - Q* Saga: Implications シンプリシウス 2023/12/01 今週、不穏な爆弾発言がAI開発界を揺るがした。大手AI開発企業「オープンAI」のサム・アルトマン最高経営責任者（CEO）が解雇されたことで、さまざまな憶測や内部リーク情報が雪崩をう
AI（倫理・アライメント・リスク）
次は社会の自動化だ デジタル革命をどう生き抜くか
The Automation of Society is Next : How to Survive the Digital Revolution
The Automation of Society is Next : How to Survive the Digital Revolution バージョン1.0 ダーク・ヘルビング 献辞 本書をディートマー・フーバーに捧げたい。彼が長年にわたって私に与えてくれた素晴らしいサポ
AI（倫理・アライメント・リスク）
テクノクラシー・ビデオドローム
ニューロワーフェア、IoB、合成生物学、スマートシティ、4IR、AI、COGSECなどに関するビデオをまとめたもの。
スパルタカス 2023/11/19 マスターリスト ここしばらくの間、私は過去数年間に起こったある変革的な技術的躍進について、かなりの数の動画を埋め込んだ記事を投稿し、社会に対する潜在的な否定的影響についての多くの論評を添えてきたが、実際のところ、神経戦争、身体のインターネット、
AI（倫理・アライメント・リスク）
人間と社会に対するデジタルの脅威
Digital Threats to Humans and Society
Digital Threats to Humans and Society 2022年6月29日 私たちは、デジタル技術が（健康や持続可能性に関連する問題を含む）世界的な大問題の解決に大きく貢献する可能性を秘めていることを認める。また、イノベーションと新たな経済セクターを促進する
AI（倫理・アライメント・リスク）
AIによる大災害の可能性は30％
AIリスクに関するサモツベティの予測と強力なAI条約の影響
A 30% Chance of AI Catastrophe: Samotsvety's Forecasts on AI Risks and the Impact of a Strong AI Treaty 概要 我々は、2200年までに人類の大多数が死亡するAI大災害のリスクを
AI（倫理・アライメント・リスク）
AIによる大災害リスクの概要
An Overview of Catastrophic AI Risks
An Overview of Catastrophic AI Risks 著者 ダン・ヘンドリクスマンタス・マゼイカトーマス・ウッドサイド 破滅的AIリスクの概要 ダン・ヘンドリックス マンタス・マゼイカ トーマス・ウッドサイド 要旨 人工知能（AI）の急速な進歩により、専門家、
AI（倫理・アライメント・リスク）
急速な進歩の時代におけるAIのリスク管理
これから登場する強力なAIシステムがもたらす大規模なリスク
Managing AI Risks in an Era of Rapid Progress ヨシュア・ベンジオ、ジェフリー・ヒントン、アンドリュー・ヤオ、他著 AIリスクの管理 2023年10月24日 AIが急速に進歩する中、本論文の著者らは、今後登場する強力なAIシステムがもた
AI（倫理・アライメント・リスク）
スーパーインテリジェンス
道筋、危険性、戦略
Superintelligence: Paths, Dangers, Strategies ニック・ボスロム(NICK BOSTROM) 人類未来研究所所長 オックスフォード大学哲学部・オックスフォード・マーティンスクール教授 オックスフォード大学 スズメの未完成の寓話 巣作りの
AI（倫理・アライメント・リスク）
人工超知能の心理学
The Psychology of Artificial Superintelligence
The Psychology of Artificial Superintelligence ヨアヒム・ディーデリッヒ 認知システムモノグラフス リュディガー・ディルマンカールスルーエ大学（ドイツ、カールスルーエ 中村慶彦東京大学大学院情報理工学系研究科機械情報学専攻 Stefa
AI（倫理・アライメント・リスク）
#第148回：計算パラダイムの構築 – スティーブン・ウルフラム
#148: Constructing the Computational Paradigm — Stephen Wolfram
ジョセフ・ウォーカー AUG 19, 2023 SCIENCE TECHNOLOGY物理学者、コンピュータ科学者、実業家。ウルフラム・リサーチの創設者兼CEOであり、Mathematicaとウルフラム・アルファの開発者。 トランスクリプト ウォーカー スティーブン・ウルフラムさ
AI（倫理・アライメント・リスク）
ユヴァル・ノア・ハラリ 『人間の本性、知性、権力、そして陰謀』｜Lex Fridman Podcast #3 90
Transcript for Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies | Lex Fridman Podcast #3 90
Transcript for Yuval Noah Harari: Human Nature, Intelligence, Power, and Conspiracies | Lex Fridman Podcast #3 90 これは、ユヴァル・ノア・ハラリとのレックス・フリドマ
AI（倫理・アライメント・リスク）
トランスヒューマニズムとエリートたちの哲学
Transhumanism and the Philosophy of the Elites
学者フランシス・フクヤマにとって、トランスヒューマニズムの「本質」の喪失は、想像力豊かな自己改良という技術科学的未来への約束の山の下に、認識されずに横たわっている。本論文は、社会の有力なセクターで台頭しつつあるこのイデオロギーとの批判的な関わりを深めることを目的としている。 Tr
AI（倫理・アライメント・リスク）
デジタル戦のためのAI
AI FOR DIGITAL WARFARE
人工知能（AI）は私たちの身の回りにあふれている。運転手のいない車、ゲームに勝つためのコンピューター、詐欺対策など、AIはすでに生活のさまざまな場面で活躍しており、その影響力は今後ますます大きくなっていくだろう。世界で最も価値のある企業の多くがAIの研究開発に多額の投資を行ってお
AI（倫理・アライメント・リスク）
認知的優位性： 情報を力に変える
Cognitive Superiority: Information to Power
Cognitive Superiority: Information to Power ディーン・S・ハートリー三世ケネス・O・ジョブスン 認知的優位性 権力への情報提供 ディーン・S・ハートリーIII - ケネス・ジョブソン コグニティブ・スーペリオリティ（認知的優位性） 情報
AI（倫理・アライメント・リスク）
スティーブン・ウルフラム ChatGPTと真実，現実，計算の性質｜Lex Fridman Podcast #376
Stephen Wolfram: ChatGPT and the Nature of Truth, Reality & Computation | Lex Fridman Podcast #376
Stephen Wolfram: ChatGPT and the Nature of Truth, Reality & Computation | Lex Fridman Podcast #376 524,627 回視聴 2023/05/10 レックス・フリードマンポッドキャスト