急速に発展するデジタルおよび関連テクノロジーを評価するためのフレームワーク: AI、大規模言語モデルなど

• 概要 
• 経歴 
• 分析フレームワークの開発 
• 分析フレームワークの使用 
• 新しいテクノロジーを評価する際に考慮すべき次元 
• 前進する方法 
• 謝辞

急速に出現するテクノロジーは、そのガバナンスと潜在的な規制に関して困難な問題を引き起こします。 人工知能 (AI) とその使用に関する政策と公の議論により、これらの問題が深刻な焦点になっています。 AI に関する広範な原則がユネスコ、OECD などによって公布され、この技術の世界的または管轄区域による規制に関する議論が始まっていますが、高レベルの原則の開発と、それらを規制、政策、社会に組み込むことの間には存在論的なギャップがあります。ガバナンスとスチュワードシップのアプローチ。 ここでは、非政府科学コミュニティが特別な役割を果たすことができます。 

多くの学者や政策専門家によって、社会科学と自然科学の多元的メンバーを擁する国際学術会議（ISC）が、リスク、利益、リスク、利益、リスクに関する注釈付きの枠組み/チェックリストを作成し、維持するプロセスを確立することが提案されている。 AI を含む (ただしこれに限定されない) 急速に変化するデジタル テクノロジーに関連する脅威と機会。 チェックリストの目的は、政府、貿易​​交渉者、規制当局、市民社会、業界を含むすべての利害関係者に潜在的な将来シナリオを知らせ、機会、利益、リスク、その他の問題をどのように考慮するかを枠組み化することです。 

成果は評価機関として機能するのではなく、政府や多国間システムを含む利害関係者によって開発される可能性のある評価および規制プロセスを支えることができる、適応的かつ進化する分析フレームワークとして機能します。 どのような分析フレームワークも、理想的には、政府や業界の主張から独立して開発されるべきであり、その主張は理解できるものです。 また、その視点は最大限に多元的であり、テクノロジーとその影響のあらゆる側面を網羅する必要があります。 

このディスカッション ペーパーは、AI に関連して行われている複数の世界的および国家的議論に情報を提供するための初期フレームワークの概要を提供します。 

AI の複雑さと影響を伴うテクノロジーの急速な出現により、大きな利点が得られるという多くの主張が生まれています。 しかし、それはまた、個人レベルから地理的戦略レベルに至るまで、重大なリスクに対する懸念も引き起こします。 議論の多くは意見の範囲の極端な部分で行われる傾向があり、より現実的なアプローチが必要です。 AI テクノロジーは進化し続け、事実上すべてのテクノロジーが有益な用途と有害な用途の両方を持っていることは歴史が示しています。 したがって、問題は、有害な結果のリスクを軽減しながら、このテクノロジーから有益な結果をどのように達成できるかということです。そのうちのいくつかは重大なものになる可能性があります。 

将来は常に不確実ですが、AI と生成 AI に関しては、比較的予防的なアプローチを奨励する十分な信頼できる専門家の意見があります。 さらに、AI はさまざまなタイプのユーザーによって広範に使用および応用されるテクノロジーの一種であるため、システムへのアプローチも必要です。 これは、個人、社会生活、市民生活、社会生活、そして地球規模の文脈における AI の影響を考慮する際に、完全な文脈を考慮する必要があることを意味します。 

過去のほとんどのテクノロジーとは異なり、デジタルおよび関連テクノロジーは、主に制作会社または代理店の利益によって開発からリリースまでの時間が非常に短くなります。 AI は急速に普及しています。 一部の特性はリリース後に初めて明らかになる可能性があり、このテクノロジーは悪意のある用途と慈善的な用途の両方に適用される可能性があります。 重要な値 寸法は、使用方法がどのように認識されるかに影響します。 さらに、地理戦略上の利益が作用している可能性もあります。 

これまで、仮想テクノロジーの規制は主に「原則」と自主的な遵守というレンズを通して見られてきました。 しかし、最近では、規制やその他の政策ツールの使用を含む、国内および多国間のガバナンスの問題に議論が移ってきています。 AI に対する賛成または反対の主張は誇張的なものが多く、テクノロジーの性質を考慮すると評価するのが困難です。 効果的な世界的または国家的な技術規制システムを確立することは困難であり、発明者から生産者、ユーザー、政府、多国間システムに至るまで、リスクを考慮した多層的な意思決定がチェーン全体で必要となります。 

とりわけユネスコ、OECD、欧州委員会によってハイレベルの原則が公布され、潜在的な規制の問題に関してさまざまなハイレベルの議論が進行中ですが、そのような原則とガバナンスまたは規制の枠組みの間には大きな存在論的なギャップがあります。 規制当局が考慮する必要がある考慮事項の分類は何ですか? これらのテクノロジーの広範な影響を考慮すると、狭く焦点を絞ったフレーミングは賢明ではありません。 この可能性については、肯定的でも否定的でも多くの論評がなされてきました。

ISC は、自然科学と社会科学を統合する主要な世界的 NGO です。 その世界的かつ専門的な範囲は、特にこの分野における現在の声の大部分が産業界または主要な技術力からのものであるため、今後の複雑な選択を知らせるために、独立した世界的に関連性のあるアドバイスを生成するのに適した立場にあることを意味します。 非政府評価プロセスの検討を含む、ここ数カ月にわたる広範な議論を経て、ISC は、その最も有益な貢献は、議論と意思決定の基礎として使用できる適応分析フレームワークを作成し、維持することであると結論付けました。正式な評価プロセス中も含めて、すべての利害関係者。 

この枠組みは、政府機関と非政府機関の両方が使用できる包括的なチェックリストの形式をとることになります。 このフレームワークは、人間と社会の幸福だけでなく、経済、政治、環境、安全保障などの外部要因を含む幅広いレンズを通して、AI やその派生品などのテクノロジーの可能性を特定し、探求します。 コンテキストに応じて、チェックリストの一部の側面が他の側面よりも関連性が高い場合がありますが、すべての領域を考慮した場合、より適切な決定が行われる可能性が高くなります。 これは、チェックリスト アプローチの固有の価値です。 

提案されたフレームワークは、国際政府科学助言ネットワーク (INGSA) のデジタル ウェルビーイング レポートなど、これまでの研究と考え方に基づいて作成されています。¹ および OECD AI 分類フレームワーク² AI の潜在的な機会、リスク、影響の全体像を提示します。 これらの以前の製品は、時代と状況を考慮すると、その目的がより制限されていたため、短期および長期の両方であらゆる問題を提示する包括的なフレームワークが必要です。 

この分析フレームワークは AI を考慮するために開発されましたが、急速に出現しているあらゆるテクノロジーに適用できます。 問題は、さらに詳しく検討するために、次のカテゴリに大まかに分類されます。 

• 幸福（個人または自己、社会および社会生活、市民生活の幸福を含む） 
• 貿易と経済 
• 環境 
• 地理戦略的および地政学的 
• 技術（システムの特性、設計、使用） 

上記の各カテゴリの考慮事項のリストが、それぞれの機会と結果とともに含まれています。 AI の特定のインスタンスやアプリケーションに関連するものもありますが、汎用的でプラットフォームや用途にとらわれないものもあります。 ここに含まれる単一の考慮事項を優先事項として扱うべきではないため、すべてを検討する必要があります。 

このフレームワークは次のような方法で利用できますが、これに限定されません。 

• 当局によって開発される可能性のある評価フレームワークを含め、関連する利害関係者が情報を提供し、さらなる考え方を形成するための基礎として利用できる、さまざまな考慮事項の検証済みの共通分類を確立することで、原則と評価の間のギャップを埋める。 

• 影響評価を通知するため。 EU AI 法では、AI ツールを提供する組織、またはプロセスに AI を導入する組織に対し、影響評価を実施して取り組みのリスクを特定し、適切なリスク管理アプローチを適用することが義務付けられています。 ここで紹介したフレームワークは、その基盤として使用できます。 

• AI の使用を指導し管理するために必要な倫理原則を強化する。 このフレームワークは、信頼できるシステムを開発できる柔軟な基盤を提供し、テクノロジーの合法的、倫理的、堅牢かつ責任ある使用を保証することでこれを実現します。 これらの原則は、このフレームワークで示されるあらゆる影響に対してテストすることができます。 
• 既存の対策 (規制、立法、政策など) の棚卸しを促進し、さらなる検討が必要なギャップを特定する。 

• このフレームワークは、テクノロジーとその使用法に依存しません。 したがって、合成生物学などのまったく異なる分野で使用できる可能性があります。 

次の表は、分析フレームワークの次元の初期の形成を示しています。 テクノロジーとその用途に応じて、一部のコンポーネントは他のコンポーネントよりも関連性が高くなります。 例は、各ドメインがなぜ重要であるかを説明するために提供されています。 状況に応じて、フレームワークには状況に応じた拡張が必要になります。 プラットフォーム開発と、特定のアプリケーション中に発生する可能性のある一般的な問題を区別することも重要です。  

への鍵 記述子のソース

プレーンテキスト:
グラックマン、P. およびアレン、K. 2018。 急速なデジタルとそれに伴う変革の文脈におけるウェルビーイングを理解する。 イングサ。 https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

太字：
OECD。 2022年。 AI システムの分類に関する OECD フレームワーク。 OECD Digital Economy Papers、No. 323、OECD Publishing、パリ。 https://oecd.ai/en/classification 

イタリック体のテキスト:
新しい記述子 (複数のソースから) 

このディスカッションペーパーへの反応に応じて、上記の分析フレームワークをさらに開発または修正するために、ISC によって専門ワーキンググループが設立され、利害関係者はプラットフォームまたは使用の側面のいずれかの重要な進展を包括的に検討することができます。 このワーキンググループは専門分野、地理的、人口統計的に多様であり、技術評価から公共政策、人間開発から社会学、未来、技術研究に至る専門知識を有することになる。 

このディスカッションペーパーに参加するには、次のサイトにアクセスしてください。 Council.science/publications/framework-digital-technology 

この論文の作成には多くの人々の協力が得られ、この論文は ISC 会長のピーター・グルックマン卿と国防省の元主任研究員で現在はニュージーランドのオークランド大学上級研究員であるヘマ・スリダールによって起草されました。 

特に、英国王立協会の元会長であり、ケンブリッジ大学生存リスク研究センターの共同創設者であるマーティン・リース卿に感謝します。 シヴァージ・ソンディ教授、オックスフォード大学物理学教授。 K Vijay Raghavan教授、インド政府の元主任科学顧問。 アマンディープ・シン・ギル国連事務総長技術担当特使。 ショーン・オー・エイギアテイ博士、ケンブリッジ大学実存的リスク研究センター事務局長、 アマンダ・ジューン・ブラウナー氏、英国王立協会上級政策顧問およびイアン・ウィギンス氏、国際問題部長。 ジェローム・デュベリー博士、マリー・ロール・サレス博士、ジュネーブ大学院所長。 Chor Pharn Lee 氏、シンガポール首相官邸戦略的未来センター、 Barend Mons 氏と Simon Hodson 博士、データ委員会 (CoDATA)。 原山裕子教授、日本。 レミ・キリオン教授、INGSA会長。 クレア・クレイグ博士、オックスフォード大学、元政府科学局先見責任者。 国連事務総長科学諮問委員会、モントリオール大学のヨシュア・ベンジオ教授。 チェックリストのアプローチは一般に支持され、ISC によるあらゆる行動の適時性が強調されました。