著者紹介: エイミー・ブランドは、2015年からMITプレスのディレクター兼発行人を務めています。認知科学者としてMITで博士号を取得し、CrossRef、ハーバード大学、Digital Scienceで指導的役割を担ってきました。CRediTタクソノミーの共同作成者、ORCID理事会の創設メンバー、そしてドキュメンタリー映画『Picture a Scientist』のプロデューサーでもあります。ブランドは、研究インフラ、学術コミュニケーション、そして科学における公平性への貢献で広く知られています。科学編集者評議会賞、AAASカブリ科学ジャーナリズム金賞などを受賞しています。
科学は人類の進歩に不可欠です。そして、それほど明白ではないものの、科学をどのように普及させるかという点も非常に重要です。知識を発見可能かつ信頼できるものにするためのシステムとして、出版は研究インフラの中核を成しています。
検閲、資金減少、そして知識を吸い上げ、その完全性を損なう生成型AIシステムの急速な台頭に直面している研究コミュニティのニーズに応えるために、出版はどのように適応していくべきでしょうか？研究、大学運営、出版の分野で数十年にわたり働いてきた者として、科学と社会の未来にとって、今日ほど大きな賭けが行われているのを見たことがありません。 and 科学コミュニケーション。
社会政治システムが崩壊しつつある今、生成型AIを世界の諸問題に対する錬金術的な解決策と見なす誘惑に駆られる。大規模言語モデル（LLM）は、発見への魅力的な入り口として登場し、瞬時の回答、シームレスな統合、そして知識の民主化といった印象を与える。しかし、その魅力の裏には、誤情報、詐欺、プロパガンダを加速させるシステムとしての潜在能力が隠されている。LLMは意図的に、一見非常に信憑性が高いように見えるコンテンツを生成するが、しばしば誤解を招いたり、単純に間違っていることもある。検証が困難で費用がかかる一方で、「真実性」は安価で利益を生むという状況は、特に人間の心を欺くのがいかに容易であるかを考えると、科学にとって危険な状況である。
確かに、私たちは、悲惨な地球規模の課題に直面し、発見と問題解決を加速させたいと考えています。人間の認知構造や機能不全に陥った制度よりも迅速に問題を解決できる機械を信じたいと考えています。しかし、AIの無制限な訓練を支持する人々が、イノベーションを加速させるためにあらゆる科学的コンテンツとデータを公開することが道徳的責務だと主張する時、歴史は慎重さを促します。
こうしたことは過去にも経験済みです。初期のインターネットは、表現と普遍的な知識を民主化する力として称賛されました。しかし最終的には、規制の欠如により巨大な商業プラットフォームが市場を独占し、ニュースと研究コンテンツ双方の信頼を損ない、経済モデルを崩壊させました。また、不十分なオープンアクセス政策が出版業界の統合を加速させ、品質管理を緩めながらもより多くの出版物を出版する経済的インセンティブを生み出したことも、今では明らかになっています。
人間の理解、学習、そして知識の進歩にとって何が最善なのか、少し立ち止まって考えてみましょう。検索してもAIによる要約しか表示されず、ユーザーが元の情報源をクリックせず、単に楽しみのために読書をする行為が急速に衰退している今、機械による消費のためだけにコンテンツを作成し、公開する未来を、私たちはどうすれば避けられるのでしょうか。
研究のインパクトと誠実さを支える上で出版社が果たす重要な役割は、維持し保護する価値があると私は信じています。 特に今は。 高額な出版手数料や購読料のペイウォールに対する不満は理解できます。特に、学術的権威を求める市場は歴史的に価格に敏感ではありませんでしたが、大手出版社はそれを利用しています。しかし、私たちの業界は一枚岩の営利追求型組織ではありません。MIT Pressや多くの科学団体のような非営利出版社は、異なる価値観とより薄い利益率で運営されています。
実際、私たちはAIの領域収奪、そして時には長年支持してきたオープンサイエンス運動そのものによって、より大きな脅威にさらされています。だからこそ、私たちは、そこで働く力関係を無視した道徳観念に抵抗しなければなりません。「オープン」という概念には、経済やインセンティブといった現実世界の複雑さを覆い隠すような後光が宿っています。結局のところ、すべてのオープン性が美徳であるわけではなく、すべてのオープン性への抵抗が妨害行為であるわけでもありません。
もう一つの誤解は、出版社の利益と研究者の利益が一致していないというものです。私たちは最近、 著者の大規模調査 STEM分野全体において、法学修士課程の研修における研究成果の無許可利用に関する議論が活発化しています。AIが発見と学習に革新的な道筋をもたらすと信じながらも、大多数の研究者はこうした慣行に反対しています。彼らは、このような利用に同意するか否かを決定できること、そして自分の研究成果が法学修士課程の成果物に反映される際には、その帰属表示を期待しています。彼らは、「読むために公開」と「研修のために公開」を同一視していません。
同様に、多くの人々は大手AI企業の誠実さに懐疑的であり、法学修士課程が出版、読書、執筆、批判的思考、そして創造性にどのような影響を与えるか、多様な視点を平板化し、偏見や文化的覇権を強化するかを懸念しています。彼らは、人間が執筆した著作物をトークン化された学習データに分解し、文脈や論点を保てないモデルに入力することで何が失われるのかを深く懸念しています。
出版された科学論文がどのように、そしてどのような条件下で法学修士課程の教育に活用されるかという問題は、著作権の問題だけではありません。知識の未来を誰が支配するかという問題でもあります。研究コミュニティへの説明責任をほとんど負わない、不透明で搾取的な産業に権限を明け渡すのでしょうか？それとも、帰属、完全性、そして持続可能性を維持するシステムを構築するのでしょうか？人類の繁栄、証拠に基づく科学、そして知識が育まれる環境の保護について真剣に考えるならば、研究コミュニティとその機関は、賢明な判断力を持って前進しなければなりません。
出版された科学研究や学術研究を、極めて搾取的で不透明なテクノロジーセクターに譲り渡すことは、一体誰の利益になるのでしょうか？論理的に考えてみましょう。著者、機関、そして資金提供者が支払うオープン出版料の価値はすべて、最終的にOpenAIやAnthropicのような企業に渡されるのです。搾取産業に関して言えば、AIセクターの価値と学術出版社の価値を正直に比較評価すべきです。
私自身は、慎重な計画とエビデンスに基づく政策によって、AIを活用して査読の質を向上させ、再現性を高め、出版ワークフローとコストを合理化できると楽観視しています。科学出版の良い部分を持続させるためのソリューションを構築できる可能性さえあります。
しかし、公開された記録が同意なくマイニングされ、民間の巨大テクノロジー企業によって収益化されるという現在のパラダイムは、科学と学問にとって非倫理的で破壊的なものです。また、これは私たちの複雑な世界の仕組みや、私たちが直面する実存的な問題の解決に向けて真の進歩を遂げる方法についての、魔術的な思考を反映しています。
免責事項
ゲストブログで提示される情報、意見、推奨事項は個々の寄稿者のものであり、必ずしも国際科学会議の価値観や信念を反映するものではありません。
今後のオープンサイエンスのまとめをあなたの受信箱に直接お届けします。 今すぐ購読します.
による写真 マーティン・アダムス on Unsplash
オープンサイエンスのまとめ記事：研究改革の背後にある隠れたインフラについてもっと読む
私たちは、今ある世界のためにグローバルな知識インフラを構築しているのか、それとも私たちが創造しようとしている世界のために構築しているのか、についてもっと詳しく読んでみてください。
