採用試験に人工知能が用いられている!?

　以前、某ニュース番組にて、「いくつかの大企業では採用試験の書類選考に人工知能を利用している」と報道しているのを観ました。
その番組では、「採用試験に人工知能が用いられることについて、賛成か反対か」の多数決を取っていましたが、結果、複数のニュースキャスターのなかでは1人を除いて「賛成」で、視聴者の多数決の結果は「反対」となりました。

さて、私の個人的な意見は「反対」です。
その理由は、「その人工知能がどのようなアルゴリズムによって動作しているのかが不明だから」です。人工知能といえどもしょせんは人が作ったプログラム、そのアルゴリズムどおりにしか動かないのです。おそらく、その人口知能はスパムメール判別で利用されるベイズ推定によって文章を解析しているのではないでしょうか。
その人工知能は、今までの合格者の履歴書を解析してその特徴をつかみ、その特徴から履歴書を選別するとのことだったのですが、要は今までの合格者の履歴書のなかから出現頻度の高い単語を収集し、合否判定の際にそれらの単語が多く使われているかを基準にしているだけなのかもしれません。
となると、たとえば今までの合格者の傾向として、「努力」「部活」「アルバイト」といった単語の出現頻度が高かった場合、その単語を使って文章を構築すればよいのです。極論すれば、文章かどうかなど関係ないかも知れません。自己紹介欄に、ただ延々と「努力、部活、アルバイト、努力、部活、アルバイト、努力、部活、アルバイト、...」などと書かれている自己紹介欄に対し、合格を出してしまうような単純なアルゴリズムかも知れないのです。

　それでもまだ、人工知能に自分の将来を左右する重大な採用判定を任せられますか？