European Union regulations on algorithmic decision-making and a “right to explanation” まとめ

今回紹介するのは、機械学習というより、機械学習とどのように向き合っていくのかを考察した論文です。
手法ばかり勉強していましたが、産業そのもの事態を変化させる機械学習には、注意すべき事項もあります。
うまく機械学習と向き合っていくべくには、このような考え方も取り入れていかなければいけません。

使用した論文
【 European Union regulations on algorithmic decision-making and a “right to explanation” 】
European Union regulations on algorithmic decision-making and a “right to explanation”

European Union regulations on algorithmic decision-making and a “right to explanation” まとめ

GDPRとは

まずはじめに、この論文で出てくるGDPRについて、紹介できればと思います。
General Data Protection Regulationの略であるGDPRは、日本語に訳すと、一般データ保護規則になります。
内容は、個人データの取扱について記載されています。
Cookieの情報が個人情報とみなされたり、企業が個人情報を取得する場合、自らの身元や連絡先、処理の目的などを記載し、同意を得なければならないなど、データの保護について定められています。
詳細は、他のサイトにゆずります。

今さら人に聞けない”GDPR”とは|日本への影響と対応も合わせて解説

違反した企業には、最低26億円の支払い義務が発生するというとてつもなく厳しい規則になります。

Non-discrimination

この論文での主な主張は2つあります。
一つは、Non-discrimination(差別禁止)、もう一つはRight to Explanation(説明権)です。
ここでは、Non-discriminationについて書いていきたいと思います。

この差別はデータからの差別を指します。
例えば、教師学習は人間の差別を反映しています。
教師データ(トレーニングデータセット)を作成する段階で、その差別が「形」となったアルゴリズムになってしまうでしょう。
確かに人間の手が介入している以上、そこは否定できるはずもないですね。

また、RebuildのPodcastでも、アフリカ人をゴリラと間違えて検出するというニュースを取り上げていましたが、
まさにあのニュースは日本は考え始めなければいけないなと感じます。

Right to Explanation

ここは一言で言うと、アルゴリズムが決定したことにたいして何を説明するべきなのかが書かれています。

アルゴリズムの意思決定については当然透明性が必要になってきます。
しかし現実には、透明性が保たれていません。特に下記3点がいつもクリアでないと主張しています。

  1. 意思決定手続きが公的な監視から守られている法人や他の機関の意図的な隠蔽
  2. ほとんどの人にとって、技術的識字率のギャップがあるので、基となるコードにアクセスするだけでは不十分
  3. 「機械学習の高次元性における数学的最適化と人間規模の推論と解釈スタイルとの間の不一致」

そしてGDPRがあることによって、このRight to Explanationを作ることができるのです。

GDPR

このGDPRが、「差別」と「説明できない」ことを避けるためにこの法律があるのは、非常に素晴らしなと感じました。
EU全体が、うまく機械学習、深層学習と向き合っていくという意志を感じることができる規則ですね。