AIと政治について考える

この記事は約7分で読めます。

先日、ロイター通信が、AmazonがAIを使用した人材採用システムについて、偏見が潜んでいる可能性が拭えないために、実用を取りやめた、と報じました

焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
米アマゾン・ドット・コムが期待を込めて進めてきたAI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、運用を取りやめる結果になった。

記事によると、過去の履歴書を学習させた結果、そもそも過去の履歴書が男性ばかりだったので男性の履歴書に存在するデータを「好ましい」と判断し、男性の履歴書に存在し得ないデータ、つまり女性しか書かれることがない記述が存在していた場合に、その履歴書の評価が下げられてしまっていた、ということのようです。

言ってしまえば、日本の大学の医学部が「経験上、男性の方が医師として採用するのが好ましいから」と女性の点数を差っ引いていたことと同じことが、Amazonの採用システム(仮)でも行われてしまっていたということです。

ちなみに、私はこのAmazonのニュースを見たときに、過去に「人工知能が多摩市を変える」というような考えで市長選挙に立候補した人がいるなど、政治にAIを導入することを主張する人が多々いることが頭に浮かんでいました。

“ロボット政治家”誕生する日来るか 多摩市長選候補者がAI政策実施訴え – 東京スポーツ新聞社
 東京・多摩市長選(15日投開票)で「AI(人工知能)ロボット」が出馬かと騒ぎになっている。インターネット会社社員の松田道人氏(44=無所属)が、AIによる政策実行を掲げているのだ。  人型ロボットの...
世界初?多摩市長選に出馬するAI市長とは?候補者直撃インタビュー
多摩市長選挙で、「人工知能(AI)が多摩市を変える」と謳う、AI市長候補が注目を集めている。AI市長とは何者なのか、候補者に話を聞いた。

では、政治にAIを導入するということは、どういうことなのでしょうか。導入する・しないという部分を議論することは適切なのでしょうか?

それを検討するために、まずはAIがどういう仕組みで動いているのかを見てみます。

AIの機械学習のシステムというのは、基本的に、過去のデータを分析し、そこにパターンや経験則を当てはめて未来を予測するという仕組みです。
ディープ・ラーニングというのは、そこで「どんな特徴に注目すれば判断ができるのか」という着眼点も自分で判断し、抽出してくれるというもののようです。

機械学習とは|RAPID機械学習|SCSK株式会社
RAPID機械学習は、ディープラーニング技術で自&#2...

個人的には、前例主義と言われる官僚の仕事を効率化した形のようなものが思い浮かびます。
実際、前例当てはめ作業という部分は機械学習の得意な分野だということが研究者による対談でも語られています。

301 Moved Permanently

これらを考慮すると、AIはサポート役、つまり政策秘書や官僚、役人のような役割を担えるものとして考えるのがベースであるのだろうと思われます。

ただ、ディープ・ラーニングの方は『 「今のディープラーニングは答えが出るけど、なぜそうなったのか、説明できないじゃないか」という批判があるんですけど、それでいいと思うんです。』という言及があるくらいには曖昧な理屈で結論を出すことができるみたいです。

301 Moved Permanently

しかし、最近では経産省がAIに答弁を下書きさせる、ということについて試験を行った結果、答弁の曖昧さに対応できず、特徴を誤って検出するという結果に終わりました。(答弁には、言質をとらせないことや、認識を誤らせる目的、誤魔化す目的も多少はあるので、こうなるのは答弁の目的通りと言えなくもなさそうですが)

また、多摩市長選挙に出馬した方は、モデル設計(係数設定)には人の手が加わることが前提で、そういう部分を選挙や有権者とのコミュニケーションで選んだりできるようにすることの必要性や、政策決定プロセス、つまりモデル設計内容の透明性が重要だということを述べています。

一方、AIと言っても勝手に機械が計算してくれるわけではない。実際には、開発者がモデルを設計し、AIを構築する。人間の価値観が多様なように、完全なる無色透明ということはありえない。
また、将棋や囲碁のような明確なルールがあるゲームとは異なり、政治の世界には“正解”はない。市政の理想をどう考えるかは人によって異なる。

「99人が幸せで、1人が死ぬという政策が良いのか、50人がそれなりに幸せで、残り50人が少しだけ幸せな政策。どれが良いのかは人それぞれ。それを問うのが選挙や市民とのコミュニケーションだと思っていて、将来的には複数のモデルを提示して、有権者が選ぶ形にしたい」(松田さん)

「AIを導入すると言っても、ただの数式で(全てが勝手に決まるのではなく)係数がある。この係数は、例えば、高齢者と子ども、どちらを政策的に優先するのかなど、何を最大化して何を最小化するのか、そういうことを決められる」(鈴木さん)

政策の優先順位を決める、という意味では人間もAIも変わらない。しかし、明確に異なるのがその過程の透明性だという。

「個人情報以外の文書は全て公開する。住民投票などを通して、市民の声を係数に反映していく。そうすれば、なぜ失敗したのか、なぜこういう政策になっているのか、後で検証が可能になる。現状は裏で誰かの利権のためにやっていたり、政策決定のプロセスが可視化されていない」(松田さん)

世界初?多摩市長選に出馬するAI市長とは?候補者直撃インタビュー

この部分はAIを使わなくても重要な部分であるように思います。
一方で現在、アメリカなどでは、様々な方面でのAI活用について、アルゴリズムの不透明性や偏見について危惧する動きが出てきているようです。

機械は偏見を持つのか? 犯罪者予測システムの 是非を問う
米国の裁判所や金融機関では多くの場面で、被告人や顧客に対する意志決定に自動化システムを使っている。機械を使えば、人間の持つ偏見をなくして公平な判断を下すことが可能になるのだろうか。
「人間はアルゴリズムを信頼しすぎ」グーグルの研究者らが警鐘
人工知能がさまざまな判断に関与するになり、アルゴリズムが持つ「偏見」の問題が無視できなくなっている。にも関わらず、企業も政府もいまだ問題の解決に関心を持っていない。
ブラックボックスなAIに潜む「偏見」を暴く最新研究が発表
意思決定の場面に人工知能(AI)システムが使われることが多くなるにつれて、ブラックボックスの中で一体どのようなアルゴリズムが動作しているのかを知ることが、ますます重要になっている。しかし、処理が複雑すぎたり、アルゴリズムが公開されていなかったりして、動作を調べるのが困難である場合がほとんどだ。

この点について「システムの選択が設計者にすら不透明な前提条件に基づいているため、どのアルゴリズムにバイアスがかかっていて、どれにかかっていないのかを必ずしも特定できないことがある。」という指摘が見られるのは、先程の『透明性を確保すれば検証が安易なのでAIを導入する』という判断とは反する指摘のように思います。

そしてもう一つ重要なのは、AIと常識の関係です。AI研究者の対談の中でも、常識をどこまで教えればいいのか、の難しさが語られています。

301 Moved Permanently

一方で、きちんと設計すれば暴走するにしても比較的安全な方向に制御できる可能性があるAIに対し、人間の暴走は制御できないから、人間の方が怖い、ということも語っています。

301 Moved Permanently

これらを考慮すると、やはり、AIはいくら自己で学習できるとしても、現状はあくまでも便利なツール止まりであって、そこを様々な方法で制御する設計・設定を行う人間が重要であるということになると思います。

なのでAIを使うかどうかというのは、実は重要な部分ではなくて、より重要なのは、統治者がどのような政治システムを理想だと描いているのかという部分(雑に言うと「哲人政治」か「間接民主主義」か「直接民主主義」か)などで、AIというのは場合によってはその理想形を効率的に実現できる可能性を秘めた一ツールなのだろうというのが、私の認識です。

更にいうと、設計については設計者のイデオロギーも関わってくるでしょうし(それこそAmazonのように女性差別を調整するかどうかの判断も設計者によっては変わる可能性があるでしょう)、そこに関連して効率化することについての是非というか、「しがらみ」や「利権」についてどう考えるのか、という点も関わるだろうと思います。

そういう「AIがあろうとなかろうと」重要な部分ということのほうがAI自体の話より重要なのではないかと思います。
そして、そこが定まると自然とAIの位置付けについても落ち着いてくるのだろうと思います。

なので「AIを使います」というのは言葉足らずというか、本来はそれだけでは何も表していないと考えたほうがいいように思います。
ただ、現状の文脈だと代議士などの政治家による調整を否定した「直接民主主義」が合理的で理想のシステムである、という価値観がAIには乗っかっているようには思いますが。

人工知能の権威が「AI政治家」を開発する理由
先月末、中国のIT大手・テンセントが運営するAIキャラクターが、中国共産党を批判。ユーザーの質問に対して、「(共産党は)腐敗して無能」「(共産党を)愛していない」「(中国の夢は)アメリカに移住すること」などと回答する“ハプニング

コメント

タイトルとURLをコピーしました