人間が体験した「経験」の質や回数を人工知能（AI）が精査し、個々人をスコアリングする時代が訪れつつあります。これが実現した場合、AIから低い評価を受けた人は、就職や結婚などで不利になってしまうかもしれません。スコアリングによって一部の人が損をする「バーチャルスラム」とは、どのようなものなのでしょうか。
AIに「嫌われた人」が陥る「バーチャルスラム」とは
社会の一員である私たちは、日々なんらかの活動をして社会と交わり、さまざまな形で他人と交流しています。しかし、それらの活動や交流がAIによってスコア化されていたら、どうなるのでしょうか。
人の価値を数値化することで、メリットを得る人と得られない人に分かれる？
私たちは、周りの人々から「賢い人」や「優しい人」といった評価を受けています。しかし、それらの評価をAIが代行し、数値化を行ったうえで採点（スコアリング）を始めた場合、必ずしも「高評価」になるとは限りません。逆に低く評価され、新たな差別や偏見が生まれるという懸念もあります。
しかも、AIが勝手にスコアリングをしているので、その評価基準はブラックボックス。本人が評価を上げようと努力したとしても、AIが高く評価してくれるとは限りません。
この現象を放置すると、「スコアリングによって低い点数をつけられた人が、復帰の機会を与えられることなく、スコアが下がり続けていく」という負の連鎖から抜け出せなくなる可能性があります。このような状況を「バーチャルスラム」と呼びます。
まだバーチャルスラムが現実化しているというわけではありませんが、このままブラックボックス化したAIによるスコアリングが世の中に普及していくと、バーチャルスラムが本当に生まれてしまうかもしれません。
バーチャルスラムが生まれたら社会はどうなる？
バーチャルスラムを招く要因として、問題なのは、AIによるスコアリングの活用の仕方です。スコアリングをうまく活用できれば、一人ひとりが自分にあった生活を送りやすい社会を作りやすくなるでしょう。しかし方法を間違ってしまえば、評価の低い人を負の循環に追いやってしまう危険が生じます。
バーチャルスラムができた場合、どのような不都合が生じるのでしょうか。具体的な例を挙げて考えてみましょう。
スコアリングのシステムによっては、就職できない人が現れる可能性も
各企業が行っている入社試験では、面接官が志望者の個性や、社風との相性などを見極めることで決定されます。そのため、面接官との相性や会話の弾み具合によっては、書類審査だけでは選ばれることのなかった志望者が採用されるケースもあります。
しかし、この面接官をAIが代行した場合、「経歴や能力に問題点はあったが、実際にコミュニケーションを取ってみると優れた人材であることがわかった」という形での採用はなくなるでしょう。さらに、同じ面接システムを他社も導入していた場合、AIの基準に満たなかった志望者は、他社でも落選し続ける可能性があります。
スコアが低い人は、結婚や資金集めで苦労する可能性も
バーチャルスラムに陥ってしまった人は、就職だけでなく、恋愛やビジネスにおいても不利になってしまいます。
例えば、結婚相手のスコアが低かった場合、家族や周りの人間からの祝福が得られないかもしれません。同様に、スコアの低い人は相手側の親族から結婚を反対される可能性もあります。
また、住居を購入したり起業する際に、銀行から融資を得たり、不動産会社と交渉する必要があります。しかしスコアが低い人は、銀行や不動産会社からの信頼が得られず、交渉が失敗になるかもしれません。
このように、バーチャルスラムは一部の人に大きな負担を強いるものです。
「個人信用評価システム」として使われ始めたスコアリングの功罪
では、このような「スコアリング」が広がりつつあるのはなぜでしょうか。バーチャルスラムの危険性を持つ一方で、優秀な人材や企業にとっては大きなメリットをもたらすという側面もあるからです。
すでに中国で浸透している「個人信用評価システム」
AIによるスコアリングが盛んな国の一つが、中国です。その中国の巨大企業である「アリババ」では、傘下の会社が運営する個人信用評価システム「芝麻信用（ジーマしんよう）」の普及を推進しています。
この芝麻信用は、学歴や職歴、交友関係だけでなく、アリババでの商品購入やサービス利用、第三者決済である「Alipay」の利用履歴などをもとに、AIがユーザーのスコアリングを行っています。
芝麻信用で高いスコアを与えられたユーザーは、銀行からの融資が得やすくなるだけでなく、さまざまなメリットを享受することができます。また、芝麻信用のスコアは交際を望む利用者をつなぐマッチングメイキングサービスなどでも活用されています。
アリババの競合企業でもある「テンセント」でも、同様のサービスである「テンセント・クレジット」を運用しています。今後の中国では、ますますスコアリングの重要度が高まっていくのではないでしょうか。
この仕組みで気になるのは、個人信用評価システムのなかには、スコアの高い友人と交流を取ることで、よりスコアが高くなっていくというような機能が組み込まれているものもあることです。
そのためスコアの低い人は、評価を高めようとしてスコアの高い人と友人になろうと近づいていくことでしょう。その反面、スコアの高い人は、低い人が寄ってきたときに避けようとするに違いありません。
このように、差別や偏見をあおりかねない仕組みには、デジタルスラムの発生を促している側面も否定できません。
スコアリングにもメリットはある
中国での活用例が示すように、スコアリングによって、企業は「信頼できる顧客かどうかの判断」が容易になり、それに合わせて新たなサービスの創設がしやすくなります。
同様に、企業から「信頼できる顧客」と判断されたユーザーは、各種手続きが容易になるだけでなく、従来よりも優れたサービスを受けることができるようになるわけです。
国内の銀行業界で活用されつつある「AIスコア」
みずほ銀行とソフトバンクにより、2016年に設立された「J.Score」は、日本で初めて「AIスコア・レンディング」を展開した企業です。
J.Score
https://www.jscore.co.jp/
J.Scoreでは、みずほ銀行が積み重ねてきたノウハウや顧客情報の分析能力をもとに、ソフトバンクのAIが、ユーザーをスコア化し、その結果に応じてさまざまなサービスを提供しています。
「バーチャルスラム」について学べる大学の学部、学科
バーチャルスラムそのものを専門に研究するような大学は見当たらないようですが、これからのAIがいたるところで活用される社会を迎えるにあたり、バーチャルスラムの懸念を無視するわけにはいきません。
例えば、慶應義塾大学法科大学院教授の山本 龍彦氏は、「おそろしいビッグデータ 超類型化AI社会のリスク」という著書で、AIが人間の適正を決めつけることに懸念を表しています。
おそろしいビッグデータ 超類型化AI社会のリスク
https://www.amazon.co.jp/dp/B077845H4W/ref=dp-kindle-redirect?_encoding=UTF8&btkr=1
バーチャルスラムは、憲法学、経営学、人類文化学、ビッグデータ、AIなどにもかかわることですので、大学で学ぶ際にはバーチャルスラムの対策という観点からも考えてみましょう。
