欧州評議会の人工知能（AI）に関する特別委員会（Ad hoc Committee on Artificial Intelligence、CAHAI）の検討は、現在、その後継のAI委員会（Committee on Artificial Intelligence、CAI）に引き継がれ、AIシステムの開発や設計、適用に関する法的拘束力のある条約が検討されている。今回は、CAIに引き継がれた、CAHAIでの法的枠組みの検討内容を紹介する。
プロファイリングなど個人の権利に影響するAI利用への対応
現在、CAIにおいては、法的拘束力のある条約の内容が検討されている。その前提の議論を行ったCAHAIは、欧州人権条約に基づいた価値観から導き出される自由と安全、公正な裁判を受ける権利、そして法に基づく処罰などの原則がAIによって妨げられないかどうかが懸念されていた。すなわち裁判などの司法分野についてはAI利用がハイリスクになる可能性があるとしている。
もっとも、AIシステムは不正や腐敗などを探し出し、探知することにも有効であるかもしれないといったことも検討されている。すなわち、行政による法執行や行政執行システムの有用性はAIによって補完される可能性があること、そしてそれは、裁判所を含めた司法分野においても同じであることが言及されている。
欧州人権条約8条にも書かれているように、私生活そして家族の生活が尊重される権利を、AIがリスクにさらす可能性もあることも懸念されていた。すなわち、バイオメトリクスデータの追跡や、個人のプロファイリングや生体認証についてである。AIがかかる分野において利用される際、個人に影響のある形で利用されていることが本人に通知されること、また、個人の権利に影響のあるAI利用の仕方がなされていることが本人に分かる形でAIシステムに組み込まれるように設計されることが、権利として保証されるべきであることが検討された。
そしてCAHAIは、何らかの形で個人の権利に影響があるようなAIが使われる場合には、そのようにAIが使われていることを通知し、そして特に公的機関が利用する場合にはどのように使われるのかについて説明されなければならないとした。
