AI（倫理・アライメント・リスク）

AI（倫理・アライメント・リスク）

知られざるヒューマンオーグメンテーションの脅威
当局が、人間を含む生物の再設計という考えに馴染みすぎ、規制上のセーフガードが存在しない状態になっている

The Unrecognized Threat of Human Augmentation Time For a Reckoning / 真実と向き合う時 公正な警告である。これは非常に皮肉な話になってしまう。普段の皮肉よりも、もっと皮肉になる。しかし、最近の情勢を鑑みると、どん
2023/04/03
AI（倫理・アライメント・リスク）スパルタカストランスヒューマニズム、人間強化、BMI官僚主義、エリート、優生学
AI（倫理・アライメント・リスク）

E12: Bayeslord、Beff Jezoz、Nathan LabenzとのAI安全性論争における効果的な加速主義
E12: Effective Accelerationism and the AI Safety Debate w/ Bayeslord, Beff Jezoz, and Nathan Labenz

E12: Effective Accelerationism and the AI Safety Debate w/ Bayeslord, Beff Jezoz, and Nathan Labenz 5,370 回視聴 2023/03/12 Effective Accelerat
2023/04/03
AI（倫理・アライメント・リスク）ボトムアップ型AIローカリゼーション・脱中央集権・分散化加速主義資本主義・国際金融資本
AI（倫理・アライメント・リスク）

AIが私たちを殺すかもしれない方法と理由のケース
The case for how and why AI might kill us all

ロズ・ブレーン著 2023年3月31日 インテリジェントなAIをトレーニングし、アライメントするための現在の方法は、将来にわたってうまくスケールしない。 生成：Midjourney 雇用の崩壊を忘れ、スパムや誤情報を忘れ、人間の陳腐化や社会の根底を覆す。AIは平たく言えば、早いう
2023/04/02
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

AGIの破滅：致死性リスト
AGI Ruin: A List of Lethalities

AGI Ruin: A List of Lethalities エリエイザー・ユドコフスキー著 2022年6月6日 前文 (すでに基本的なことは知っていて、前置きはいらないという方は、アライメントの技術的な難しさについて、セクションBまで読み飛ばしてほしい)。 AGIで死ぬ理由を
2023/04/02
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

エリエイザーに同意するところと同意しないところ
Where I agree and disagree with Eliezer

Where I agree and disagree with Eliezer ポール・クリスティアーノ著 2022年6月20日 (一部、AGI Ruinに呼応している：Lethalitiesのリスト。同じようにとりとめのないスタイルで書かれている。網羅的ではない) 合意事項 強
2023/04/02
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

ブログMarginal Revolutionは「安全な不確実性の誤謬」に挑戦する
MR Tries The Safe Uncertainty Fallacy

3月30日 マージナル・レボリューション (Marginal Revolution) は、経済学者であるタイラー・カウエンとアレックス・タバロックが運営する、経済学を中心にしたブログのこと。このブログでは、経済学、政治、文化など様々なトピックについての意見や分析が投稿され、経済学
2023/04/01
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

人工一般知能（AGI）がまあまあの結果をもたらす場合、その理由は何だろうか？
If Artificial General Intelligence has an okay outcome, what will be the reason?

If Artificial General Intelligence has an okay outcome, what will be the reason? エリエゼル・ユドコフスキー 結果が「まあまあ」であるとは、正の特異点（完全な一貫した外挿志向が正しく実行された場合）に
2023/04/01
AI（倫理・アライメント・リスク）
AI言語モデルとの対話

ChatGPTとの3度目の対談　- スパルタカス
かなり全てを認めている

A Third Talk With ChatGPT オーグメンテーションの問題を再考する 数日前、私はChatGPTと再び会話をし、かなり驚くべきことを認めさせた。この会話の一部をTwitterに投稿したところ、かなりの反響があった。 しかし、この言語モデルからの返答は、様々な理
2023/04/01
AI言語モデルとの対話AI（倫理・アライメント・リスク）スパルタカストランスヒューマニズム、人間強化、BMIレジスタンス・抵抗運動
AI（倫理・アライメント・リスク）

エリエーザー・ユドコウスキー AIの危険性と人類の文明の終焉｜Lex Fridman Podcast #368
Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368

Eliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #3 68 254,091 回視聴 2023/03/31 レックス・フリードマンポッドキャスト エリエ
2023/03/31
AI（倫理・アライメント・リスク）Lex Fridman PodcastLLM - LaMDA, ChatGPT, Claude3ロビン・ハンソン意識・クオリア・自由意志
AI（倫理・アライメント・リスク）

長期的な影響力を得るには、どちらかを選ぶこと
For Long-Term Influence, Pick A Side

ロビン・ハンソン（Robin Hanson） あなたは今、健康や富、人脈を持って存在しており、それゆえ何らかの影響力を持っている。この影響力を、目先の個人的な利益のために使うこともあれば、遠い未来を含む広い宇宙に影響を与えようとすることもあるだろう。そして、あなたが広い宇宙に影響
2023/03/30
AI（倫理・アライメント・リスク）ゲーム理論・進化論ジョン・キャンベルロビン・ハンソン環境危機・災害
AI（倫理・アライメント・リスク）

159 – エリエゼル・ユドコフスキーの「われわれはみな死ぬ」
159 - We’re All Gonna Die with Eliezer Yudkowsky

​ 159 - We’re All Gonna Die with Eliezer Yudkowsky 126,290 回視聴 2023/02/20に公開済みバンクレスポッドキャスト エリエゼル・ユドコフスキーは、作家であり、創設者であり、AI分野における主要な思想家です。 GPT
2023/03/29
AI（倫理・アライメント・リスク）LLM - LaMDA, ChatGPT, Claude3ゲーム理論・進化論ロビン・ハンソン文明の危機・生態学的危機未来・人工知能・トランスヒューマニズム
AI（倫理・アライメント・リスク）

AIリスク、再び
AI Risk, Again

AI Risk, Again ロビン・ハンソン GPT-4： Robin Dale Hansonは、アメリカの経済学者、予測市場の研究者、そして作家である。彼は、1989年にカリフォルニア大学バークレー校で経済学の博士号を取得し、その後、ジョージメイソン大学、オックスフォード大学
2023/03/28
AI（倫理・アライメント・リスク）ロビン・ハンソン金融危機・インフレ
AI（倫理・アライメント・リスク）

ChatGPTとAIが人類を隷属させる前触れ – ジョー・アレン氏とともに

ChatGPT and the Heralds of AI’s Subjugation of Humanity - with Joe Allen ChatGPTをはじめとするチャットボットは、わずかな期間で社会に登場し、多くの人々を喜ばせ、魅了し、熱狂させています。多くの事柄に精
2023/03/22
AI（倫理・アライメント・リスク）LLM - LaMDA, ChatGPT, Claude3全体主義意識・クオリア・自由意志
AI（倫理・アライメント・リスク）

AIに仕事を奪われ、人類の歴史は終わるのか、それとも終わらないのか？それは複雑だ…
Will AIs Take All Our Jobs and End Human History—or Not? Well, It’s Complicated…

Will AIs Take All Our Jobs and End Human History—or Not? Well, It’s Complicated… 2023年3月15日 ChatGPTの衝撃 ほんの数ヶ月前まで、オリジナルのエッセイを書くことは、人間にしかできないこ
2023/03/16
AI（倫理・アライメント・リスク）LLM - LaMDA, ChatGPT, Claude3オートマトン、ウルフラム未来・人工知能・トランスヒューマニズム民主主義・自由複雑適応系・還元主義・創発
AI（倫理・アライメント・リスク）

大規模言語モデル（LLM）還元主義に反対する
Against LLM Reductionism

Against LLM Reductionism byErich_Grunewald　2023年3月9日 概要 大規模言語モデル（以下、LLM）は、「単なる」浅いパターンマッチャー、「単なる」大規模ルックアップテーブル、「単なる」オートコンプリートエンジンであると言われることがあ
2023/03/10
AI（倫理・アライメント・リスク）LLM - LaMDA, ChatGPT, Claude3複雑適応系・還元主義・創発
AI（倫理・アライメント・リスク）

デジタル・マインドと社会に関する命題 | ニック・ボストロム
Propositions Concerning Digital Minds and Society

(2022）バージョン1.10. 初稿2020 ニック・ボストロム オックスフォード大学人類の未来研究所 カール・シュルマン オックスフォード大学 ヒューマニティ未来研究所 免責事項 以下は、デジタル・マインドと社会に関する非常に暫定的な命題であり、私たちに何らかの説得力を与えて
2022/07/10
AI（倫理・アライメント・リスク）ニック・ボストロム / FHI未来・人工知能・トランスヒューマニズム
AI（倫理・アライメント・リスク）

COVID19の病理　階級闘争と情報闘争の交差点
The COVID19 pathology: An intersection of class and information warfare

Emanuel Pastreich博士（アジア・インスティテュート代表 ワシントンD.C.、ソウル、東京、ハノイ） COVID19は、組織的な人間の行動の土台を蝕む文化的・制度的なウイルスである。COVID19キャンペーンは、過去10年間に富が急速に集中した結果、本格的な階級闘争
2022/04/24
AI（倫理・アライメント・リスク）エマニュエル・パストリッチ資本主義・国際金融資本