アクセシビリティの高い AI ソリューションを設計して評価する
生成 AI は、障碍のある人々の生産性を大幅に向上させることができますが、責任を持って構築されていない場合、アクセシビリティに関して以下のような課題やリスクをもたらす可能性があります。
- バイアス:生成 AI のデータ、アルゴリズム、または結果に影響を与える、不公平または不正確な仮定や選好のことです。 バイアスの例として、生成 AI に使用されるデータセットまたはモデルに障碡のある人々の表現や多様性が不足していることが挙げられます。 このような状況は、不正確、不適切、または有害な出力につながる可能性があります。
- エイブルイズム:障碍を持つ人々が他の人々よりも劣っている、または能力が低いという前提に基づく差別や弾圧のことです。 エイブルイズムの例として、アクセシビリティに関する生成 AI の設計、開発、または評価における障碍を持つ人々の除外または疎外が挙げられます。 この除外は、障碍を持つ人々が、自身に影響するソリューションにおいて意見を言ったり選択権を持つことの妨げとなります。
アクセシビリティに関する生成 AI の倫理的および社会的な影響を考慮し、障碍を持つ人々を共同作成者や利害関係者としてプロセスに関与させることが重要です。 そうすることで、生成 AI を、危害や差別の原因ではなく、障碍を持つ人々に力を与え、障碍を持つ人々の手段を増やす強力なツールとすることができます。
AI ソリューションの包括的な設計原則
アクセシビリティの高い AI ソリューションを設計するには、特定のユーザーのニーズとコンテキストを理解し、包括的な設計の原則を適用する必要があります。
アクセシビリティの高い包括的な AI ソリューションがユーザーの期待と要件を満たし、意図しない結果や危害を生み出さないようにするには、ユーザー テストと評価が不可欠です。 ユーザー テストと評価には、ソリューションの使いやすさ、有用性、および必要度に関するフィードバックを提供できる、多様で代表的なユーザーのサンプルが関与している必要があります。
開発者は、調査の論点や目標に応じて、さまざまな方法でユーザー テストと評価を行うことができます。 方法としては、インタビュー、アンケート、観察、実験などがあります。
ユーザー テストと評価の結果は、ソリューションの改善点に関する知見をもたらすものである必要があります。