現在、空前のAIブームが起きていて、見渡せばそこら中に「AIによる〇〇」なんて言葉が見られます。
でも、それら『AI』が本当に信頼に足るものなのか、疑問に思うことがあります。
『AI』とは、『Artificial Intelligence』（人工知能）の略。つまり、人間がおこなっている知的活動を機械でおこなわせてみた、という程度の意味です。
しかし、今のところ、我ら人間がどうやって知的活動を行っているのか、それどころか、そもそも知的活動とは何か、ということすら判明しておらず、AIを実現するために様々な試行錯誤がおこなわれています。
その中で、現在もっとも広く使われ、かつ成果を上げているのが、大量のデータを読み込み、良い結果が得られるパターンを学習させるという手法です。
これにより、AIはチェスの世界チャンピオンを打ち負かし、クイズ王を知識で凌駕することができました。
でも、この手法では、AIに偏りや誤りのあるデータを与えてしまう、あるいはAIが「良い結果」に至る「抜け道」を考えるなどの理由で、人間には思いもしなかった結果に至ってしまうことがあります。
たとえば、この本には、画像から男女を見分けるAIが「台所にいれば女性」と学習していた例が挙げられています。そう、『がらくた』（偏りや誤りがあるデータ）を入れれば『がらくた』（誤った結論）が出てくるのです。
ぜひ、この本を読んで、「AIによる〇〇」という言葉を見たときには、どのようなデータを基にして、どのような学習をして、どのような結論を出すAIなのか想像して、「そのAIは本当に信頼できるのか」を考えられるようになりましょう。
（司書 中島）