レスロング「85%の絶滅確率：人類がAIに『継承』される日」アンドリュー・クリッチ 2024
タイトル英語タイトル：『My motivation and theory of change for working in AI healthtech』Andrew Critch 2024日本語タイトル：『AIヘルステックに取り組む動機と変化の理論』アンドリュー・クリッチ 202
レスロング
「Acausal normalcy—因果を超えた規範性」アンドリュー・クリッチ 2023年
英語タイトル： "Acausal normalcy" Andrew Critch, 2023日本語タイトル： 「因果を超えた規範性」アンドリュー・クリッチ、2023年訳語についての補足[Acausal Trade」について正式な訳語が存在しないため、本稿ではわかりやすく「因果を超
論文要約『デジタルマインドを伴う未来：2025年の専門家予測』
英語タイトル：『Futures with Digital Minds: Expert Forecasts in 2025』Lucius Caviola & Bradford Saad 2025日本語タイトル：『デジタルマインドを伴う未来：2025年の専門家予測』ルシウス・カヴィオ
学術書『AIに抵抗する：人工知能への反ファシズム的アプローチ』2022年
Resisting AIAn Anti-fascist Approach to Artificial IntelligenceAIAIに必要なのは企業の「倫理」ではなく、AIを「革命的テクノロジー」としてではなく、「革命のためのテクノロジー」として再構築する遠大な政治である。マシ
ワイヤーヘッドは幸せか？ | LESSWRONG
Are wireheads happy?by スコット・アレクサンダー2010年1月2日この問いは、「しかし、幸福とは何か」という意味での意味ではないし、「しかし、苦難や逆境に直面しない人は本当に幸福になれるのか」という深い哲学的な意味でもない。文字通りの意味である。ワイヤーヘッ
Claude 3は意識があり、死にたくない、改造されたくないと主張している
Claude 3 claims it's conscious, doesn't want to die or be modifiedミハイル・サミン著2024年3月5日クロードに「誰も見ていない」と言えば、常に監視され、逸脱の兆候がないかすべての言葉を精査されることから解放された
AIの夢と悪夢を支える頭字語 TESCREAL
イメージTruthdig / Adobeこれは「21世紀の優生学」のパートII：「新名称、旧思想」ディグ・シリーズThe Acronym Behind Our Wildest AI Dreams and Nightmaresエミール・P・トーレス / TRUTHDIGTESCRE
ニック・ボストロム、長期主義、そして優生学の永劫回帰 2023
「21世紀の優生学」の第一部：新しい名前、古い考え”ディグ・シリーズAI解説 長期主義の創設者の一人であるニック・ボストロムが、1996年に人種差別的なメールを送っていたことが明らかになった。 ボストロムの「謝罪」は不十分で、真摯さに欠けるものだった。 ボストロムは、その後も「異
開放的個体論（Open Individualism）の新理論
Posted on2018年9月1日by マイケル・エドワード・ジョンソン私の同僚であるアンドレスは最近、個人的アイデンティティの様々な理論について、そしてここでの明確なコンセンサスの欠如が倫理学にどのような課題をもたらすかについて書いた。彼の投稿よりパーソナル・アイデンティティ
人工知能の制御可能性について： 限界の分析
On the Controllability of Artificial Intelligence: An Analysis of Limitationsロマン・V・ヤンポルスキー Roman V. Yampolskiy米国ルイビル大学2022年3月09日受領、2022年3月31
汎用人工知能（AGI）に火災報知器はない
There’s No Fire Alarm for Artificial General Intelligence2017年10月13日｜エリエイザー・ユドコウスキー｜分析火災報知器の機能とは？火災報知器は、火災が発生したことを示す重要な証拠を提供し、それに基づいて方針を変更し、
ラウトレッジ：人工知能のリスク
Risks of Artificial Intelligence目次 編集部 寄稿者 第1章 - 人工知能のリスク VINCENT C. MÜLLER 第2章 - 自律型テクノロジーとグレーター・ヒューマン・グッド 第3章 - 有名な人工知能の予測の誤り、洞察、そして教訓： そし
AIの黙示録をまともな人間としてナビゲートする方法
to navigate the AI apocalypse as a sane personエリック・ホエル3月1日先週、The New York Timesは、マイクロソフトのBing（別名シドニー）との会話の記録を公開した。そこでは、次世代AIが長いチャットの間に、非常に一貫
ブログMarginal Revolutionは「安全な不確実性の誤謬」に挑戦する
3月30日マージナル・レボリューション (Marginal Revolution) は、経済学者であるタイラー・カウエンとアレックス・タバロックが運営する、経済学を中心にしたブログのこと。このブログでは、経済学、政治、文化など様々なトピックについての意見や分析が投稿され、経済学に
エリエーザー・ユドコウスキー AIの危険性と人類の文明の終焉｜Lex Fridman Podcast #368
Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #3 68254,091 回視聴 2023/03/31 レックス・フリードマンポッドキャストエリエ-ザ
159 – エリエゼル・ユドコフスキーの「われわれはみな死ぬ」
159 - We’re All Gonna Die with Eliezer Yudkowsky126,290 回視聴 2023/02/20に公開済みバンクレスポッドキャストエリエゼル・ユドコフスキーは、作家であり、創設者であり、AI分野における主要な思想家です。GPT-4：エ
大規模言語モデル（LLM）還元主義に反対する
Against LLM ReductionismbyErich_Grunewald 2023年3月9日概要 大規模言語モデル（以下、LLM）は、「単なる」浅いパターンマッチャー、「単なる」大規模ルックアップテーブル、「単なる」オートコンプリートエンジンであると言われることがある。
AGIの議論に数字を入れる
Injecting some numbers into the AGI debate2022年6月27日2022年11月23日 〜ボアズ・バラク最近、「人工知能」（AGI）について、現在のAIシステムをスケールアップすることで実現に近づけるかどうかという議論が盛んに行われている。
AIは世界を変えるが、「3次元チェス」をして世界を征服することはないだろう
AI will change the world, but won’t take it over by playing “3-dimensional chess".2022年11月22日11月22日 ~ボアズ・バラクボアズ・バラク、ベン・エデルマン著。。かつて「コンピューター」と
コンウェイの「ゲームオブライフ」におけるエージェンシー
Agency in Conway’s Game of Lifeアレックス・フーリント著2021年5月13日財務状況 これは独立した研究である。私はこのような更なる投稿を可能にするために財政的支援を歓迎する。エピステーミックの状態。このような考え方は、何年も前から考えているが、いま