- 公共ガバナンスにおけるAIイノベーションには、倫理的かつ責任ある発展のための慎重な監督が求められます。
- ガバナンスへのAI技術導入の急ピッチな取り組みには、倫理的配慮と正確性を優先する戦略が必要です。
- 公的部門におけるAIをめぐる議論は、有益な成果を確保するために、正確性と責任ある利用が極めて重要であることを浮き彫りにしています。
ニューヨーク市は、Microsoft AzureのAI技術を活用したチャットボットをウェブサイト上に導入し、ユーザーが小規模事業者と簡単に情報を交換できるようにし、市の規制を分かりやすく簡素化しました。
インテリジェントなチャットボットは、都市の法律や規制の海におけるワンストップサービスとして構想されましたが、有益な情報を提供する代わりに、正確性や、頻繁にばかげた助言について議論を巻き起こしています。
法的ガイダンスにおけるチャットボットの影響
誤った助言と法的課題の役割は、スタートアップが直面する日常的な障害において過大評価することはできません。この事例は、チャットボットの主な目的が、都市の規制に関する質問など、官僚主義的な問題を解決する「リアルタイム」の仮想アシスタントとして事業者を支援することにあります。
ガイドラインは、法的基準の誤った重み付けにより、その目標を達成することに失敗しました。場合によってはニューヨーク市の法律に違反しています。
Markupによるテストを含む発見と確認により、チャットボットの助言が違法な内容（雇用主に対して、チップの横領や妊娠に基づく性的差別について助言するなど）から、例えば、ネズミにかじられた食品のテストが許可されていると公然と述べるなど、奇妙なものまで多岐にわたることが示されました。
このエラーは、国内政策、労働者補償、事業運営など、さまざまな領域で発生し、チャットボットを法的リソースとしての信頼性を低下させます。
一例として、雇用主に対して、電子決済のみを許可する事業を運営でき、労働者のチップに関する規則はないと誤って伝えられました。家主には、テナントの立ち退きや、Veteran Affairs Supportive Housingバウチャーなどの収入源を無視することに関する誤った助言がなされました。同じ種類の推奨事項は、企業の法的地位を損なうだけでなく、倫理違反でもあり、倫理的問題を伴います。
AI導入における革新と責任のバランス
バイアスのシステム化や制御不能化などの技術の負の脅威にもかかわらず、NYCのAI支持者たちは、エリック・アダムズ市長をはじめとして、提案された技術の実装を擁護しています。
アダムズ市長は、技術の進歩は継続的な試行錯誤を通じて完成させる必要がある長いプロセスであると強調し、チャットボットに対してより粘り強くあるよう助言しています。
この立場は、予想通り、受け入れられるだけでなく、認識も得られていません。ニューヨーク大学の責任あるAIセンターのディレクターでありコンピュータサイエンス教授であるジュリア・ストヤノヴィッチ率いる批評家は、体系的なチェックなしに展開され続けたソフトウェアの行政による沈黙が、責任あるガバナンスへの無関心を反映していると主張しました。
単なるソフトウェアであるため、チャットボットは間違いをしたり、内在するバイアスを持ったりする可能性があります。しかし、チャットボットを稼働させ続け、その助言が常に正確ではないという免責事項で会話を開始するという市の決定は、データの検証責任をユーザーに転嫁します。
この問題は、規制目的のためにAIが正確でない場所に導入されないようにするための十分なメカニズムがあるべきかどうかについて、議論を巻き起こしました。
小規模事業者の実装計画
ニューヨーク市の起業家の苦境は、比喩的な「赤旗」を示しています。AIを基盤とする技術でさえ、信頼性の問題に直面しています。AIは官僚主義を軽減する能力を持っていますが、チャットボットのミスは、公共部門での使用において不可欠な正確性と信頼性の欠如を示しています。
都市の条例の複雑な言葉に直面する小規模事業者は、ボットプログラムがAIの助言を誤用し、手動評価への入り口として機能する場面に遭遇する可能性があります。専門家は、コンプライアンスと規制の問題には人間の法律専門家の必要性があり、同時にチャットボットから得られたヒントを最終的な解決策ではなく、予備的な解決策として扱う必要があると示唆しています。
総じて、この事例は、同様の技術的介入を開始する前に、必要な戦略的改革を採用するという、都市のAI実験における新しいパラダイムを示しています。最終的に、革新と責任のバランスは、公共サービスの整合性に貢献するか、コミュニティの信頼を脅かすかという問題の中核をなしています。
NYCの当局者は、技術に動じず、プライバシー保護の必要性について有用な教訓を提供する可能性のあるAIチャットボットを支持し続けています。AIが公共の利益に奉仕する場合、それは透明性と継続的な改善を目的として、責任ある方法で導入されるべきです。
一方で、そのようなリソースは、小規模事業者によって健全な懸念を持って使用されるべきです。彼らはむしろ伝統的な法的リソースに頼り、そこから助言を求めるべきです。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
エママン・オムワンダ
エマニュエル・オムワンダの専門分野は暗号資産市場であり、ファンダメンタル分析とテクニカル分析の両方にわたります。Cryptopolitanに参加する以前は、CoinEdition、The Crypto Basic、CryptoNews Flash、DroomDroomなどのさまざまな暗号資産メディアサイトで活動していました。ケニアのケンヤッタ大学から数学およびコンピュータサイエンスの理学士（BSc.）を取得し、現在はコミュニケーション・メディア研究の文学士取得に向けて最終学年を修了中です。
