AIの規制と倫理:より人間中心を目標としたAIを構築する方法-その1

AI、データ分析、自律システムが増加することで起こりうる影響について世界中の議論が過熱する中、ジョアンナ・グッドマンは、専門家パネルに座るよう呼びかけられました。答えはあるのでしょうか?

「私たちの技術はどんどん自律的になりますが、それが世界に与える影響は、良いものと悪いもの、どちらも私たちの責任となります」

とスタンフォード人工知能研究所所長かつGoogle CloudAI研究担当チーフ・サイエンティストであるFei-Fei Li教授は語りました。

Li教授の「人間を中心としたAI」の考えは、イギリスの上院のAI(APPG)に関する全党議員グループにも影響を与えました。このような技術が私たちの生活のより多くの側面に影響を与えるようになるにつれて、AIの管理と規制に対して倫理と説明責任を追及しました。英国政府は今年、AIのためのオフィスも設立しました。

ケンブリッジ大学のFacebookアプリの違反や、公道でテストし人を殺してしまった、Uberのドライバーレスの車の事故や、いくつかのAIシステムに侵入するバイアスの問題などは、警戒と厳しい規制が求められています。

しかし、実際にそれはどういった意味を持つでしょうか?

APPGはAIと人間の責任に関する3つの質問を検討しました。

  • 倫理をビジネス意思決定プロセスの一部に導入するにはどうすればよいか?
  • アルゴリズムの責任をどのように割り当てるのか?
  • どの監査機関がエコシステムを監視するのか?

ビジネスにおけるパフォーマンスを倫理的に最適化するために組織されたインテリジェント倫理の創設者兼ディレクターであるTracey Grovesは、AIに関する教育、エンパワーメント、AIとの正しい関係の重要性について議論し、これら3つのすべてを達成するため、以下のアプローチを提案しました。

教育、エンパワーメント、関係性


教育はリーダーシップ開発、メンタリング、コーチングに関するもので、倫理的な意思決定の重要性を高めるための意識啓発に関するものです。

エンパワメントには、組織の価値観を戦略目標やビジネスの目標に合わせ、「知的なアカウンタビリティ」を確立することによって、信頼できる文化を構築することが含まれます。

関係性を築き上げることは、倫理的行動や文化の重要なパフォーマンス指標の特定、進捗状況の監視、そしてパフォーマンスを積極的に測定することを意味します。

Groves氏は、倫理的意思決定における重要な成功要因として包括性と、AIによって事態が悪化した場合に法的救済措置を求める能力を人々に与えることを強調しました。

AIソフトウェアに関連するリスクを管理するためには、政府と規制だけの責任ではなく、すべての企業が測定可能な倫理的価値を確立する必要がある、と彼女は述べました。また、規制があれば企業は説明責任を負うことになるだろうと彼女は付け加えました。そうでない場合には、ペナルティを科す可能性があります。

責任の確立


PwCの金融サービス担当責任者Aldous Birchallは、機械学習の話題に焦点を当てました。彼は、AIソフトウェアへの責任を構築し、共通の基準と合理的な規制を策定することを提唱しました。

機械学習はソフトウェアをビジネスの中心に動かすと彼は説明しています。AIはハイテク企業が追及する新しいチャンスを提供していますが、それが社会に及ぼす影響は十分に考えられていません。

「技術者はその成果に重点を置き、ビジネスは意思決定に重点を置いています」

と、語りました。
また、マシン学習とAIトレーニングには倫理と、アルゴリズムが社会に与える影響についての明確な理解が含まれていなければならないと付け加えました。

いくつかの企業は倫理委員会を設立し、その他はリスクとリスク意識を管理するために新しい指定や役割を導入するかもしれません。ソフトウェアシステムのスケーラビリティは、問題が急速に拡大する可能性があることを意味すると付け加えました。

Birchall氏は、AIが誤った判断を下したり、または不適切に使用された際に、人間の責任をアルゴリズムに割り当てることで、誰にその責任を問えばいいのかと考えています。所有権は責任をもたらすと彼は言いました。

Birchall氏は、自律型車両のMOTのようなものは、実行可能な解決策になる可能性があると示唆しました。 また、AIは、アルゴリズムが明確なタスクセットを処理するもので、その使用例はほとんどないと同氏は付け加えました。

監視と規制は業界固有のものである必要があると彼は結論づけました。たとえば、金融サービスのAIと医療AIは全く異なる問題を提起するため、異なる保護手段を必要とします。

続きはこちら:https://wp.me/p9kFXP-24A

原文はこちら: AI regulation & ethics: How to build more human-focused AI

産業用ロボット市場、2024年末までに700億ドル超。各分野の種類別、地域別、企業別の世界予測はどうなのか? 世界のIoTに関するレポート公開中