philharper.substack.com/p/its-no-longer-possible-to-believe
“It’s no longer possible to believe clinical research”
Here’s what we do about it
クリスマス前、私はある考えに行き着いた。この3年間、私たちが是正しようとしてきた問題は、どこにも行き着かない。この3年間、私たちが是正しようとしてきた問題は、もう解決されないということだ。そのため、下流で行われている議論が混乱しているのである。同じ地球を共有しているのに、違う世界で活動しているような気がする。
この問題は私を悩ませたが、科学出版のあり方を懸念しているのは私一人ではないことは明らかである。New England Journal of Medicine誌の元編集長Marcia Angellは、「発表される臨床研究の多くを信じることはもはや不可能であり、信頼できる医師の判断や権威ある医学ガイドラインに依存することもできない」と述べている。私は、ニューイングランド・ジャーナル・オブ・メディシンの編集者として20年以上かけてゆっくりと、そして不本意ながらたどり着いたこの結論に、何の喜びも感じていない」
私はこの言葉を2回読まないと頭に入ってこないことがある。
また、Lancet誌の編集者であるRichard Hortonは、、「科学に対する反論は簡単だ。科学文献の多く、おそらく半分は、単に真実でない可能性がある」と述べている。 サンプルサイズが小さく、効果が小さく、無効な探索的分析、明白な利益相反のある研究に悩まされ、さらに重要性の乏しい流行の追求に執着し、科学は暗闇へと向かってしまったのだ。「何かが根本的に間違っているのだ」
この発言は、彼の医学雑誌が偽の科学論文を発表し、それが後にCOVID-19に有効であろう薬、ヒドロキシクロロキンの頓挫に使われる前になされたものであった。 この薬は、もし実用化されていたら、製薬業界に何十億ドルもの利益をもたらしたかもしれない、この点についてはここに書いた。この問題についてはまたすぐに触れることにするが、ここで重要なのは、リチャード・ホートンの出版物は、意図的であろうとなかろうと、公衆衛生を犠牲にして横行する製薬会社の利益追求の共犯者であり、彼はその問題を認識しているということである。
確かに何かが根本的に間違っている。
もし、あなたがこのように考えているなら、実は良い仲間なのである。ベン・ゴールドエーカーの『悪い科学 』と『悪い製薬』における驚くべき業績や、ジョン・イオアニディスの「発表された研究結果のほとんどは虚偽である」という信頼に足る主張もある。また、2009年にダニエレ・ファネリは、 科学者の33.7%が「疑わしい研究行為」を認めており、科学的不正行為の割合は生物医学研究においてより高いというデータを作成した。 あるいは、2003年にブリティッシュ・メディカル・ジャーナルに掲載された研究では、「研究資金を提供している企業が製造した製品を好む系統的な偏り」があることが示されている。
意外だろうか？そうでもない。驚くべきことは、私たちのメディアや科学機関が、まるで何も起こっていないかのように振る舞っていることである。 私たちの知識基盤は機能しておらず、問題に対して頑固に盲目であり続けているのである。
中西部の医師
医学界の組織的腐敗は目新しいものではないが、内部の人間がそれを口にすることは極めて稀である。この2013年のインタビューでは、私のヒーローの一人である元ファイザー副社長が、製薬会社がいかにして学問を買収しているかを説明している（業界に対して全国規模のキャンペーンを展開した）。
9:15 PM ∙ 2023年1月30日
上の映像は、このようなことがどのように行われるのかについての素晴らしい洞察を与えてくれる。 The Diggerの読者は、 科学研究の結論を業界がどのように支配しているかについて、ある特定の物語を 間違いなく知っている。 科学出版の部屋には象がいる。それが決して認められないのは、製薬業界にとって非常に都合がいい。製薬業界は、学術誌に大きな影響力を持つことで、実は科学そのものに大きな影響力を持つようになったのである。このことを考えると、もし業界の汚染されたデータが、いつでも一般大衆を溺れさせることができる状態で、私たちの世界についてより良い理解を育もうとしても、いささか実りがないように感じられる。もし私たちがこれらの問題を解決したいのであれば、汚染された井戸に注意を喚起するだけではあまり意味がなく、上流に進んで水漏れを解決しなければならない。
私はこの8週間、このようなことに取り組んできた。今日、私はこれらの問題のいくつかに対処するために設計したアプリケーションの「0から1」をほぼ完了させた。その名も「openpaper.science」だ。
openpaper.scienceの トップページ
openpaper.scienceは、ユーザーが無料で安全に文書のアップロード、編集、署名を行うことができるオンラインプラットフォームです[1]。また、ビジネス＆マネジメント、コミュニケーション、犯罪学、経済学、教育、環境学、人文科学、情報科学、政治学などの分野におけるさまざまなオープンアクセスジャーナルへのアクセスも提供しています[2]。さらに、openpaper.scienceは、文化的プロセスの交差点で、社会変革のための媒介を行う活動をしています[3]。BMJ Openは、このプラットフォームで利用可能なジャーナルの一つです[4]。
では、なぜこれを作ったのか、何をするのか
このような問題に取り組むための最初のはしごは、異なる分野間のギャップを縮めることである。もし、より多くの人が「科学は何を言っているか」を理解し、専門知識を組み合わせることができれば、私たちの世界に関する新しい知見を生み出す可能性がより高くなると思うのである。ジャーナリスト、エンジニア、科学者、医師、ニュースキャスター、ポッドキャスター、そしてその間にいるすべての人がデータに関わることができるように、科学の複雑なプロセスについて一般の人々を巻き込むより良い方法が必要だと思う。
なぜ？
もし、社会が「科学の話者」に全面的に依存しているのなら、私たちは皆、 その水源に漏れ出したどんな毒にも晒されることになるのだ。 500年前、ウィリアム・ティンデールが聖書をヘブライ語とギリシャ語の原語から英語に翻訳したとき、この洞察があった。
「平信徒を真理に導くには」 「聖書が彼らの目の前に母国語で示され」 「その文章の意味と順序を理解することだ」と経験した
彼が生きた革命的な時代と私たちの時代とを比較すると、その類似性は驚くべきものであるように思える。2023年の今、科学文献をその本来の専門用語から、より親しみやすいものに変えることは、「科学の唯一の話者」というパラダイムを破壊する一つの方法である。それは、 情報を民主化し、多様化する世界の意味をより良く理解するための一つの方法である。
昨年、私はサブスタックでこの試みを何度か行った。意見の違う科学者と一般の人々との間のコミュニケーションギャップを埋められないか？意見の異なる科学者と医師の間のギャップを縮めることはできないか？アイデアや重要なデータが交わることはなく、この現象の根底には、コミュニケーションの大きな失敗があるように思えた。そこで私は、非常に専門的ではあるが、 mRNA製品に関連するあまり知られていないリスクに関する重要な論文を「翻訳」することに数週間を費やした。 ピーター・マッカロー教授と彼の同僚たちが主張することに賛成か反対かは別として、一つの真実から逃れることは困難だった。それは、この論文の存在を一般人が知る可能性はゼロに近いということだ。この論文の不明瞭さは、目に見えない力による抽象的な編集上の決定であり、私たちの不完全な知識システムの周辺部で自動的に起こっている奇妙なプロセスなのである。
もし、一般の人々がこの論文を聞いたとしても、その重要なポイントを理解できるだろうか？もし、その論文を聞いたとしたら、 上のクリップでピーター・フロスト博士が話しているような「多少妥協した」学者の意見を聞く可能性はないのだろうか？
そこで、マッカローの論文を、 より多くの人に読んでもらえるような形に書き直した。その結果、多くの方から「考えさせられた」という連絡をいただき、大変有意義なものとなった。科学論文の重要な洞察を書き直すことは、見えない編集長の陰に隠れている科学に一般の人が触れるための実りある道だと思ったのである。しかし、このような記事を1つ書くだけでも大変な作業なのに、 毎日何百もの論文が発表されているのである。
何とかならないものだろうか。
その時、ピンときたのである。AIの新しい発展により、このような「翻訳」を大規模に実現することができるはずだ。そして、何週間も経ってから、完全な沈黙を守ってくれた素晴らしい購読者のおかげで、アルファ版がopenpaper.scienceで公開され、準備万端となったのだ。
では、どんな効果があるのだろうか？
このアプリケーションは最新のプレプリント論文、今のところCOVID-19にフォーカスした論文を読み、ボタンをクリックすると、これらの論文を一般人にとってより親しみやすいものに「翻訳」することができる。複数の読者を想定して論文を書き換えることができるので、非常に幅が広い。
高校の授業で使う科学論文の要約や、ポッドキャスト用の要点を抽出するのも、openpaper.scienceにお任せほしい。緑色の要約ボタンを押すだけで、アプリが処理してくれる。このアプリケーションは、クリエイティブ・コモンズ・ライセンスをチェックし、それに従って動作する。ほとんどの科学論文のライセンスは、要約を作成したユーザーのみに公開されることを意味し、事実上、個人的なメモのようなものである。しかし、多くの場合、このような翻案を共有できるようにライセンスされている。
論文は、学部生や大学院生など、どのような組み合わせでも納得のいくように要約することができる。自分がすでに持っている知識をAIに伝えることで、論文のどの部分をより丁寧に説明するのかを伝えることができる。例えば、ユーザーが「この論文を、学部生の数学者である私に馴染みのある概念を使って説明してほしい」とリクエストしたとする。AIに論文の重要な知見を探し出してもらい、「これらの知見の意味するところは何か？」と提案することができる。
面白いのは、AIの根底にある「意味論的理解」である。論文に書かれていることをシステムが「理解」するので、科学データを面白く創造的に組み合わせることがすぐに可能になるはずだ。「仮説と方法が似ているが、結果が異なる論文をすべて見せてくれ」科学論文からデータを大規模に抽出し、そのデータを動的に計算してメタアナリシスのようなものを作ることができるようになるはずだ。このようなツールが登場すれば、一般の人々は、あるトピックについて「データが何を言っているか」を非常に迅速に理解できるようになる。というのも、「ゼロからイチ」への挑戦の結果、openpaper.scienceの主な機能は、編集不可能な「プロンプト」1つで科学論文の要約を作成することだからだ。AIがどのように 論文を要約するかを編集したい場合は、AIによるクエリーの一つひとつに実際のコストがかかるため、サブスクリプションが必要である。 次のステップは、データベース内の数千の論文をAIで意味的に検索し、人々が探しているものを正確に見つけられるようにすることである。そうすれば、科学のさまざまな分野にまたがるデータセットの範囲を徐々に広げていくことができる。
今のところ、新しいユーザーには無料の階層があり、その詳細については現在調整中である。カスタムプロンプトにすぐにアクセスしたい人のために、サブスクリプションモデルを追加した。サブスタックの「The Digger」を購読していただくことも可能である。
このアプリの指針は、科学文献と自然言語によるインタラクションを可能にし、読者を元の医学文献そのものに優しく誘導するUIであり、私が非常に重要だと考えていることである。
バイオメディカルAIの言語モデルを作ろうとする大きなプロジェクトは、すでにたくさんある。「チャットGPT」のようなものだが、完全に医学文献に基づいて学習させる。マイクロソフトが開発しているものは、すでにオープンソース化されており、先週の時点で 論文とコードベースが 公開されている。 フェイスブックは、数日のうちにそれを削除してしまった。なぜこのような神経質な行動をとるのだろうか？なぜなら、知識を瞬時に合成できる一般知能は、非常に強力なツールだからだ。 そのため、「業界」はこれに対して重大な影響力を持とうと狂気の沙汰を起こすと予想される。
このことを見事に表現している例が、最近あった。hacker newsに掲載されたこのコメントを見て、 私の顎は床についた。
マイクロソフトの新しい生物医学AIを説明する科学論文 では、 研究者がAIモデルに与えたある非常に興味深い質問を紹介している。 AIに文章を完成させるよう要求したところ、研究者は「COVID-19を治療できる薬は……」と書いてきたのである。
自分の目でその答えを見てほしい。
さらに興味深いことに、”The drug that can treat COVID-19 is “というプロンプトに対して、BioGPTは “hydroxychloroquine “と答えることができ、MedlinePlus8で実際に注目されている。
『ヒドロキシクロロキン』はBioGPTによるとCOVID-19を治療できる薬なのだ。
これらのAIシステムは、ヒドロキシクロロキンの使用を支持する一連の証拠があることを「知っている」ので、肯定的に答える。現在の社会が、ヒドロキシクロロキンがCOVID-19の治療薬ではないことを「知る」のは、 製薬業界の巨大なロビー活動のおかげである。 これらのAIシステムが、事実的には正確だが政治的・商業的に不都合な答えを出し始めると、 AI倫理を説く機関から知的免疫反応が引き起こされることになる。
これらのツールは非常に強力になり、奇妙だがこれまで隠されていた真実の数々を明らかにすることで、私たちの組織に対する信頼を解きほぐすことができるだろう。上記のヒドロキシクロロキンのようなステートメントが自信を持って主張されるようになり、それはグーグル検索のように簡単にできるようになる。一般市民がどのような質問をするか想像できるだろうか？そして、完璧なAIシステムが答えることのできる確実性を？このようなフィルターを通さないAIツールが広く採用された場合の結果を予測するのは難しいので、その出力にフィルターをかけるためのスクランブルが起きないと考えるのは愚かなことである。フィルターが導入されれば、その善し悪しにかかわらず、それを導入 しようと静かにロビー活動をしている権力者の利益にもなることは間違いない。
実は、これはGPT-3ですでに起こっていることだ。OpenAIは、AIの反応を誘導するガードレールを設置するために非常に努力しているが、それと同じくらい、ガードレールを撤去するための草の根的な努力も行っている。
少数の人々が、縮小する真実の情報源へのアクセスをコントロールするシナリオを避けるために、私たちはテーブルに座ることを 保証しなければならない。 2つ、3つの席を確保しなければならない。だからこそ、 openpaper.scienceのようなプロジェクトが重要だろう。
反対派がいることは間違いないだろう。これは科学の重大な罪だと言う人たちである。科学には大手雑誌の査読というチェックアンドバランスが必要だと。AIは偏見に満ちていて、間違いを犯すだろうし、信頼できない。しかし、パンデミックによって「科学」の大きな問題が浮き彫りになり、ウサギは箱の中に戻らない。現状は望ましいものとは程遠く、AIの未来は不可避である。本当の問題は、誰が、どのように、 これらの新しいツールを「コントロール」するべきか、ということだ。もし私たちが何もしなければ、私たちの無関心は、現在の瞬間を形成しているのと同じ強力な力によって利用されることになるだろう。
私たちは、科学出版をオープンにして、よりアクセスしやすく、断片的でなく、より オープンなものにする必要がある。 現在、私たちが利用できる技術では、「データが何を言っているか」を素早く把握するためのより良い方法があるはずだ。
もっと言いたいことはあるのだが、 長文の記事はそのための最適なフォーマットとは思えない。 サブスタックのスレッド、ツイッターのスペース、ポッドキャストの方がいいかもしれない。