先日、ロイター通信が、AmazonがAIを使用した人材採用システムについて、偏見が潜んでいる可能性が拭えないために、実用を取りやめた、と報じました
記事によると、過去の履歴書を学習させた結果、そもそも過去の履歴書が男性ばかりだったので男性の履歴書に存在するデータを「好ましい」と判断し、男性の履歴書に存在し得ないデータ、つまり女性しか書かれることがない記述が存在していた場合に、その履歴書の評価が下げられてしまっていた、ということのようです。
言ってしまえば、日本の大学の医学部が「経験上、男性の方が医師として採用するのが好ましいから」と女性の点数を差っ引いていたことと同じことが、Amazonの採用システム（仮）でも行われてしまっていたということです。
ちなみに、私はこのAmazonのニュースを見たときに、過去に「人工知能が多摩市を変える」というような考えで市長選挙に立候補した人がいるなど、政治にAIを導入することを主張する人が多々いることが頭に浮かんでいました。
では、政治にAIを導入するということは、どういうことなのでしょうか。導入する・しないという部分を議論することは適切なのでしょうか？
それを検討するために、まずはAIがどういう仕組みで動いているのかを見てみます。
AIの機械学習のシステムというのは、基本的に、過去のデータを分析し、そこにパターンや経験則を当てはめて未来を予測するという仕組みです。
ディープ・ラーニングというのは、そこで「どんな特徴に注目すれば判断ができるのか」という着眼点も自分で判断し、抽出してくれるというもののようです。
個人的には、前例主義と言われる官僚の仕事を効率化した形のようなものが思い浮かびます。
実際、前例当てはめ作業という部分は機械学習の得意な分野だということが研究者による対談でも語られています。
これらを考慮すると、AIはサポート役、つまり政策秘書や官僚、役人のような役割を担えるものとして考えるのがベースであるのだろうと思われます。
ただ、ディープ・ラーニングの方は『 「今のディープラーニングは答えが出るけど、なぜそうなったのか、説明できないじゃないか」という批判があるんですけど、それでいいと思うんです。』という言及があるくらいには曖昧な理屈で結論を出すことができるみたいです。
しかし、最近では経産省がAIに答弁を下書きさせる、ということについて試験を行った結果、答弁の曖昧さに対応できず、特徴を誤って検出するという結果に終わりました。（答弁には、言質をとらせないことや、認識を誤らせる目的、誤魔化す目的も多少はあるので、こうなるのは答弁の目的通りと言えなくもなさそうですが）
また、多摩市長選挙に出馬した方は、モデル設計（係数設定）には人の手が加わることが前提で、そういう部分を選挙や有権者とのコミュニケーションで選んだりできるようにすることの必要性や、政策決定プロセス、つまりモデル設計内容の透明性が重要だということを述べています。
一方、AIと言っても勝手に機械が計算してくれるわけではない。実際には、開発者がモデルを設計し、AIを構築する。人間の価値観が多様なように、完全なる無色透明ということはありえない。
また、将棋や囲碁のような明確なルールがあるゲームとは異なり、政治の世界には“正解”はない。市政の理想をどう考えるかは人によって異なる。｢99人が幸せで、1人が死ぬという政策が良いのか、50人がそれなりに幸せで、残り50人が少しだけ幸せな政策。どれが良いのかは人それぞれ。それを問うのが選挙や市民とのコミュニケーションだと思っていて、将来的には複数のモデルを提示して、有権者が選ぶ形にしたい｣（松田さん）
｢AIを導入すると言っても、ただの数式で（全てが勝手に決まるのではなく）係数がある。この係数は、例えば、高齢者と子ども、どちらを政策的に優先するのかなど、何を最大化して何を最小化するのか、そういうことを決められる｣（鈴木さん）
政策の優先順位を決める、という意味では人間もAIも変わらない。しかし、明確に異なるのがその過程の透明性だという。｢個人情報以外の文書は全て公開する。住民投票などを通して、市民の声を係数に反映していく。そうすれば、なぜ失敗したのか、なぜこういう政策になっているのか、後で検証が可能になる。現状は裏で誰かの利権のためにやっていたり、政策決定のプロセスが可視化されていない｣（松田さん）
世界初？多摩市長選に出馬するAI市長とは？候補者直撃インタビュー
この部分はAIを使わなくても重要な部分であるように思います。
一方で現在、アメリカなどでは、様々な方面でのAI活用について、アルゴリズムの不透明性や偏見について危惧する動きが出てきているようです。
この点について「システムの選択が設計者にすら不透明な前提条件に基づいているため、どのアルゴリズムにバイアスがかかっていて、どれにかかっていないのかを必ずしも特定できないことがある。」という指摘が見られるのは、先程の『透明性を確保すれば検証が安易なのでAIを導入する』という判断とは反する指摘のように思います。
そしてもう一つ重要なのは、AIと常識の関係です。AI研究者の対談の中でも、常識をどこまで教えればいいのか、の難しさが語られています。
一方で、きちんと設計すれば暴走するにしても比較的安全な方向に制御できる可能性があるAIに対し、人間の暴走は制御できないから、人間の方が怖い、ということも語っています。
これらを考慮すると、やはり、AIはいくら自己で学習できるとしても、現状はあくまでも便利なツール止まりであって、そこを様々な方法で制御する設計・設定を行う人間が重要であるということになると思います。
なのでAIを使うかどうかというのは、実は重要な部分ではなくて、より重要なのは、統治者がどのような政治システムを理想だと描いているのかという部分（雑に言うと「哲人政治」か「間接民主主義」か「直接民主主義」か）などで、AIというのは場合によってはその理想形を効率的に実現できる可能性を秘めた一ツールなのだろうというのが、私の認識です。
更にいうと、設計については設計者のイデオロギーも関わってくるでしょうし（それこそAmazonのように女性差別を調整するかどうかの判断も設計者によっては変わる可能性があるでしょう）、そこに関連して効率化することについての是非というか、「しがらみ」や「利権」についてどう考えるのか、という点も関わるだろうと思います。
そういう「AIがあろうとなかろうと」重要な部分ということのほうがAI自体の話より重要なのではないかと思います。
そして、そこが定まると自然とAIの位置付けについても落ち着いてくるのだろうと思います。
なので「AIを使います」というのは言葉足らずというか、本来はそれだけでは何も表していないと考えたほうがいいように思います。
ただ、現状の文脈だと代議士などの政治家による調整を否定した「直接民主主義」が合理的で理想のシステムである、という価値観がAIには乗っかっているようには思いますが。
コメント