アルゴリズムはブラックボックス?



問題となっている「食べログ」にしても飲食店の「当たり・はずれ」を事前にできることから、評価点数を気にされている方もいらっしゃいます。とはいえ、飲食店の方には食べログを頼りにする方もいれば、余計なお節介と考える方もいらっしゃいます。希望しなくても食べログに勝手に掲載されてレビューを付けられ、削除を求めても応じないことに憤慨する声も聞きます。


とはいえ、インターネットで物を買ったり、その情報を参考に食事に行ったり、旅行に行ったりしている人にとっては、ある程度有力な情報になっていることは確かなのではないでしょうか。


頼れる情報か?

ネット上のユーザーレビューや評価は有力な情報ですが、本当に有力な情報たり得るかは疑問に思うこともあります。


一昨年、COVID-19の感染が広まっていた頃、手をアルコール消毒する際にポンプに触れなくて済むよう、手をかざせばセンサーが反応してアルコールが噴射されるディスペンサーがあるといいと思い、某大手通販サイトで探してみました。

すると、いくつかの商品が出てきました。最近、電気製品などは国内のメーカーよりも素性の分からないメーカーの製品が多く、センサー式のアルコールディスペンサーもその縮図のような世界でした。

価格も手頃で、ユーザーレビューもある程度評判が良い製品を見つけ購入しました。


ところが、届いた製品を開封して嫌な予感がしました。

ユーザーレビューで高評価をすればキャッシュバックがあるというのです。つまりは購入者を金で釣って評価を上げているということです。


嫌な予感は的中しました。


届いてから1ヶ月後、帰宅すると玄関にアルコール臭がします。

もしや?と思ってディスペンサーを確認すると、アルコールのタンクはカラになっていました。

センサーが壊れて、タンクの中のアルコールを全部噴霧してしまったのです。しかも電源スイッチもおかしな挙動で為す術がありません。


このように、評価システムの信頼性を欺くような行為も実際にはあり、必ずしも信頼性が高いとは言えないのです。 ネット通販サイトも自社サイトの信頼性に関わる問題ですから紳士似対応しているのでしょうが、水面下で分からないようにやってしまえば防ぎようがありません。



システムの変更で評価が変わる時は?

分野は違えど、評価という意味では同じようなことをやっている身からすると、ひとつの物を複数回継続的に評価する場合にはそれなりに気を遣います。

評価の結果を活用する立場に立てば、評価の結果が変われば何故変わったのか?ということは必ず疑問に持ちます。どういう評価をするかにもよりますが、時の経過によりのものの性状が変わったり、外部の環境が変化したりすれば評価は変わります。一方、評価のやり方を変えることにより結果が変わることもあります。特にこうした場合は評価主体の恣意性が介入しないように気を遣い、また恣意性が介入したと疑われないように説明をします。


特にコンピューターの関連する評価では「アルゴリズム」という言葉を良く耳にします。

「当社独自のアルゴリズムにより」等と説明はされますが、そのアルゴリズムがどう言うようなことをやっているのかということが開示されることはありません。どこか「アルゴリズム」がブラックボックス化しているような風潮があり、そのあたりが、今ひとつ疑わしさを拭えない要因になっています。


報道されている飲食店の評価についても、報道の内容では「チェーン店の評価の点数を一律に下げるようシステムを変更」と伝えられていますが、"チェーン店だから評価が下がる"では「なぜそうなるのかよく分からない」「そうかもしれないけどそうじゃないかもしれない」程度の説明にしかなっておらず、おそらく裁判所も同じような判断をしたのではないかと思われます。


誰もが納得出来る評価というのはなかなか難しいのですが、ブラックボックスからポンと出てきたような結論が一人歩きして、時に他人に損失を与えてしまうようなことは理不尽と言わざるを得ません。 一方で、システム運用者側もあまり細かい基準を公開してしまうと、抜け穴を見つけて評価を欺くような行為が横行することが容易に想像出来るため、あまり大っぴらにはできないのかもしれません。


この辺は評価主体の自主性に任せるしかないのですが、少なくとも評価基準を変える場合には、どのように変えるのか、その結果どういう影響が出るのかを評価の利用者に説明することが必要なの間違いないでしょう。 仮に評価基準を変えて、評価が下落した相手に「コンサル」や「ソリューション」を提供するような商売をするような評価主体がでてくるようであれば、評価自体を規制されても致し方でしょう。

閲覧数:1回0件のコメント

最新記事

すべて表示