AIが私たちを殺すかもしれない方法と理由のケース
ロズ・ブレーン著2023年3月31日インテリジェントなAIをトレーニングし、アライメントするための現在の方法は、将来にわたってうまくスケールしない。生成：Midjourney雇用の崩壊を忘れ、スパムや誤情報を忘れ、人間の陳腐化や社会の根底を覆す。AIは平たく言えば、早いうちに生物
2023-04
AGIの破滅：致死性リスト
AGI Ruin: A List of Lethalitiesエリエイザー・ユドコフスキー著2022年6月6日前文(すでに基本的なことは知っていて、前置きはいらないという方は、アライメントの技術的な難しさについて、セクションBまで読み飛ばしてほしい)。AGIで死ぬ理由を整理して書
脳の中の象
The Elephant in the Brain: Hidden Motives in Everyday Life脳内エレファントの前評判この独創的で説得力のある本の中で、シムラーとハンソンは、私たちの行動の多くが社会的消費のためであること、つまり私たちは良い決断をするのではな
エリエイザーに同意するところと同意しないところ
Where I agree and disagree with Eliezerポール・クリスティアーノ著2022年6月20日(一部、AGI Ruinに呼応している：Lethalitiesのリスト。同じようにとりとめのないスタイルで書かれている。網羅的ではない)合意事項 強力なAI
道徳ポルノにご注意
Beware Morality Porn「ポルノ」は、現実の価値あるセックスにおいて、そのような欲求や満足を伴う多くの文脈的特徴から切り離された形で、強い性的欲求や満足を刺激する。批評家たちは、この切り離しがしばしば悪い、あるいは不健全であると訴える。このポルノ概念の比喩的な応用
ブログMarginal Revolutionは「安全な不確実性の誤謬」に挑戦する
3月30日マージナル・レボリューション (Marginal Revolution) は、経済学者であるタイラー・カウエンとアレックス・タバロックが運営する、経済学を中心にしたブログのこと。このブログでは、経済学、政治、文化など様々なトピックについての意見や分析が投稿され、経済学に
人工一般知能（AGI）がまあまあの結果をもたらす場合、その理由は何だろうか？
If Artificial General Intelligence has an okay outcome, what will be the reason?エリエゼル・ユドコフスキー結果が「まあまあ」であるとは、正の特異点（完全な一貫した外挿志向が正しく実行された場合）によっ
UnHerd グレートフードリセットが始まった
The Great Food Reset has begunトーマス・ファジ著2023年3月30日フランスは炎上している。イスラエルは噴火している。アメリカは第二の1月6日に直面している。しかし、オランダでは、政治体制が全く異なるタイプの抗議行動に動揺している。この抗議行動は、お
ChatGPTとの3度目の対談 - スパルタカス
A Third Talk With ChatGPTオーグメンテーションの問題を再考する数日前、私はChatGPTと再び会話をし、かなり驚くべきことを認めさせた。この会話の一部をTwitterに投稿したところ、かなりの反響があった。しかし、この言語モデルからの返答は、様々な理由から