2023-04

AI（倫理・アライメント・リスク）

AIが私たちを殺すかもしれない方法と理由のケース
The case for how and why AI might kill us all

ロズ・ブレーン著 2023年3月31日 インテリジェントなAIをトレーニングし、アライメントするための現在の方法は、将来にわたってうまくスケールしない。 生成：Midjourney 雇用の崩壊を忘れ、スパムや誤情報を忘れ、人間の陳腐化や社会の根底を覆す。AIは平たく言えば、早いう
2023/04/02
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

AGIの破滅：致死性リスト
AGI Ruin: A List of Lethalities

AGI Ruin: A List of Lethalities エリエイザー・ユドコフスキー著 2022年6月6日 前文 (すでに基本的なことは知っていて、前置きはいらないという方は、アライメントの技術的な難しさについて、セクションBまで読み飛ばしてほしい)。 AGIで死ぬ理由を
2023/04/02
AI（倫理・アライメント・リスク）
ロビン・ハンソン

脳の中の象
日常生活における隠れた動機

The Elephant in the Brain: Hidden Motives in Everyday Life 脳内エレファントの前評判 この独創的で説得力のある本の中で、シムラーとハンソンは、私たちの行動の多くが社会的消費のためであること、つまり私たちは良い決断をするので
2023/04/02
ロビン・ハンソン医療・製薬会社の不正・腐敗欺瞞・真実
AI（倫理・アライメント・リスク）

エリエイザーに同意するところと同意しないところ
Where I agree and disagree with Eliezer

Where I agree and disagree with Eliezer ポール・クリスティアーノ著 2022年6月20日 (一部、AGI Ruinに呼応している：Lethalitiesのリスト。同じようにとりとめのないスタイルで書かれている。網羅的ではない) 合意事項 強
2023/04/02
AI（倫理・アライメント・リスク）
生命倫理・医療倫理

道徳ポルノにご注意
Beware Morality Porn

Beware Morality Porn 「ポルノ」は、現実の価値あるセックスにおいて、そのような欲求や満足を伴う多くの文脈的特徴から切り離された形で、強い性的欲求や満足を刺激する。批評家たちは、この切り離しがしばしば悪い、あるいは不健全であると訴える。 このポルノ概念の比喩的な
2023/04/01
生命倫理・医療倫理
AI（倫理・アライメント・リスク）

ブログMarginal Revolutionは「安全な不確実性の誤謬」に挑戦する
MR Tries The Safe Uncertainty Fallacy

3月30日 マージナル・レボリューション (Marginal Revolution) は、経済学者であるタイラー・カウエンとアレックス・タバロックが運営する、経済学を中心にしたブログのこと。このブログでは、経済学、政治、文化など様々なトピックについての意見や分析が投稿され、経済学
2023/04/01
AI（倫理・アライメント・リスク）
AI（倫理・アライメント・リスク）

人工一般知能（AGI）がまあまあの結果をもたらす場合、その理由は何だろうか？
If Artificial General Intelligence has an okay outcome, what will be the reason?

If Artificial General Intelligence has an okay outcome, what will be the reason? エリエゼル・ユドコフスキー 結果が「まあまあ」であるとは、正の特異点（完全な一貫した外挿志向が正しく実行された場合）に
2023/04/01
AI（倫理・アライメント・リスク）
食糧安全保障・インフラ危機

UnHerd　グレートフードリセットが始まった
農家への世界的な戦争から、私たち全員が損をする

The Great Food Reset has begun トーマス・ファジ著 2023年3月30日 フランスは炎上している。イスラエルは噴火している。アメリカは第二の1月6日に直面している。しかし、オランダでは、政治体制が全く異なるタイプの抗議行動に動揺している。この抗議行動
2023/04/01
全体主義食糧安全保障・インフラ危機
AI言語モデルとの対話

ChatGPTとの3度目の対談　- スパルタカス
かなり全てを認めている

A Third Talk With ChatGPT オーグメンテーションの問題を再考する 数日前、私はChatGPTと再び会話をし、かなり驚くべきことを認めさせた。この会話の一部をTwitterに投稿したところ、かなりの反響があった。 しかし、この言語モデルからの返答は、様々な理
2023/04/01
AI言語モデルとの対話AI（倫理・アライメント・リスク）スパルタカストランスヒューマニズム、人間強化、BMIレジスタンス・抵抗運動