AIに心をハックされたときの気持ち
レスロングHow it feels to have your mind hacked by an AI2023年1月12日先週、LLM（今話題の大型言語モデル）と数日間話しているうちに、自分が感受性豊かになるとは思ってもみなかった感情のジェットコースターが起きた。私は、最近のLL
レスロング
2026年の姿
What 2026 looks likeby Daniel Kokotajlo 2021年8月7日AIアライメントフォーラムからクロスポストした。通常よりも専門用語が多く含まれる可能性がある。これは、ヴィネット・ワークショップのために書かれたものである。ゴールは、私が現在管理で
チェスタートンのフェンスについて
On Chesterton's Fencebytrentbrick 2020年9月11日チェスタトンの「フェンス」は重要であり、それを見極め、評価するのは非常に難しい。限られた時間、豊富な愚かさ、膨れ上がったエゴの中で、既存の物事のやり方を十分に深く見ず、「修正」しようとする前に
核戦争が起こる確率は6分の1だと思う理由 マックス・テグマーク
by MaxTegmark多くの人から、米露の核戦争が起こる確率はどのくらいだと思うかと聞かれた。私の現在の予想は、ロシアンルーレットで負ける確率とほぼ同じで、6分の1である。この記事の目的は、私がこの推定に至った理由を説明することである。感情的な話題であるにもかかわらず、冷静か
非合理性 | 理性の暗黒面の歴史
目次 タイトルページ 著作権ページ 献辞 跋文 目次 前文 ある数学者の殺人 序文 理性の双子 神話への啓蒙 現在という瞬間 不合理 ロードマップ 第1章 自滅するタコ、あるいは、論理学 虚偽の操作 爆発 カスパー・ハウザーと合理的選択の限界 語りえないものを語りつづける 第2章
AGIリスクとフレンドリーAI政策の解決策
AGI Risk and Friendly AI Policy Solutionsクリス・ノータ 2015年5月1日概要本稿では、人工知能（Arti cial General Intelligence: AGI）の開発に伴うリスクを紹介し、AGIリスクの研究に携わる主要な組織を概
曖昧なビジョンの衝突 私のヒーローの一人であるスコット・アレクサンダーへのイベルメクチンに関する回答
A Conflict of Blurred VisionsAlexandros Marinosこんにちは、世界のみんな！もしあなたが、私の最初のSubstackへの投稿が「スコット・アレクサンダーに対抗して」書かれると言っていたら、私はあなたをおかしな人だと言っていたであろう。実
拷問 vs 目のホコリ
Torture vs. Dust Specksby Eliezer Yudkowsky2007年10月30日コメント数：616「起こる可能性のある最悪の事態とは何か」というのんきな言葉がある。 これは、創造的な想像力を持つ人に尋ねるには悪い質問かもしれない。 この問題を個人レベル
ロコのバシリスク
Roko's basilisk個人的にAIに取り組んでいる私の知っている最も賢い人たちは、AIに取り組んでいない人たちから出てくる脅し文句を狂気の沙汰だと思っている。-Marc AndreessenこれはThe Game,Wikipediaの成長したバージョンのようなもので、あな