【メモ】AI関連

こちらもネタ作成用としてメモ

AIの懸念点として挙げられる問題の一部は
全体最適と部分最適の問題や
功利主義的な問題、道徳的な問題など、
今の人間社会でも存在している問題である。

全体最適として進められるTPPも、部分としては正しくない。
（個人的には全体的にも否定的だが）
中国共産党だって、中国という国としては正しい選択だったりするだろう。

また、部分最適を優先した場合については、
タックスヘイブン問題なんかも同じでかもしれない。
自社、または個人の利益を追求する判断をする事により、
全体としての最適化からは外れる。
というか、合成の誤謬なんかもそうだろ。

サイコパスって呼ばれるような人間も居てしまうしな。

でも、その判断をAIがやったときに納得がいかないという話になる。
そういう心情的な問題であって、
AIも判断を誤るという文脈を構築するなら、
それに対しては、人間も現状同じような判断をしているし、
誤った判断という決め付けは、AIを否定するためにでた見方だろう。

暴走についてはAI独自の問題と言えなくもない。
人間でも、そこにおちいれば精神疾患として扱われるだろう。
ただ、人間もヒューリスティックやジンクス的なものにのみ従うと選択を誤る。
最近のAIはそれに近い暴走をしている気がする。
計算コストが安くなっているのだから、あまり人間に近づけすぎない部分も必要かもしれない。

また、AIの暴走に近い印象なのが性選択の暴走。
生存に不利な孔雀の尾を、メスが求めるために尾が進化するような例。
孔雀は生存できているからよいが、種としては生存に不利な方向の進化である。
この暴走によって絶滅していった種なんかもあるようだ。

人間の細身の女性を好む癖なども、これに近く、
わざわざ栄養状態や発育の悪い個体を選ぶハメになっており、生物としてはおかしい。
（とはいえ、肥満の害もあるので、完全に間違いではなくなってきてるが）

AIについての話をすると、結局は人間の目的やら幸福論に還元されてしまいそう。
AIはその手段の一つでしかないのかもしれない。