読んだ。 #システム・エラー社会 「最適化」至上主義の罠 #ロブ・ライヒ #メラン・サハミ #ジェレミー・M・ワインスタイン
イノベーションvs民主主義。エンジニアの人たちが考えている目標設定が人類にとって良いことになっていかない理由など。
第二次世界大戦以前には、法律関係者が政府で力を持っていたが、20世紀半ばになると経済学者が多くを占めるようになり、21世紀になるとそれがコンピュータサイエンスとエンジニアリングになっていく。「最適化」が強い。
エンジニアのドグマは「最適化」や「効率化」になっていく。それらはすべて数値化できるものである。
シリコンバレーの動力となっているお金の動き（ベンチャーキャピタルが多くの小さなベンチャー企業にお金を出して、1/100の確率で、バズった会社を売って利益を上げる。社員はストックオプションで儲かる）ゆえに、結局数値化できるものが勝ってしまうシステムになってしまっている。
インプレッション、再生時間（→広告収入）の勝負とか、GAFAみたいに、企業買収で独占作戦、の方が数字で見て勝ってしまう、というようなことになっている。
また、ひろゆきさんが、2chは場所を提供してるだけ、犯罪者が電話使ったらNTTが訴えられるのか？という話があったかと思うが、読みながらあれについて感じていたことが、言語化されてきた。電話とネット空間は、その構造上、情報の拡散力、そこから問題や事件発生への寄与のレベルが違うから、新しくルールなどを考えていかないといけないよね、という話なのかもしれない、など。
・社会的・政治的倫理について考えるときは、さまざまな価値の競合に直面する。たとえすべての価値を尊重すべきだと考えるとしても、トレードオフを決断しなければならない。ここで必要なのは、正しいか間違っているか判断したうえで、正しく行動する方法を学ぶことではない。良いことをいくつも確認したうえで、どれも捨てがたいが、すべてを同時に実行できないときの対応策を決断しなければならない。（自由と平等の緊張関係など）
民主政治におけるギブアンドテイクは、相容れない理念や要求のうちなにを選択するかについての歴史あるシステムである。民主主義の特に優れた点は、ゆっくり時間をかけて決断する傾向。協議を重ね、過去の決断を見直す可能性も排除しない。
100年前に上司が作業現場で効率を高めようとすれば、それは一種の抑圧行為と見なされた。しかし今日では、私たちは最適化をみずから受け入れ、賞賛さえするようになっている。
・証拠もないのに選挙結果の正しさを問いただす書き込みや、ワクチンに関する陰謀論を焚きつける虚偽の広告は、収益や時価総額の増加につながるかもしれないが、民主主義はおろか、何億人ものウェルビーイングが被害をこうむる。
・規制という言葉には重要なものを守る意味合いが込められていることがわかる。
・国を治め、競合する価値を調整し、証拠の正しさを評価するために必要なユニークなスキルを、テクノロジストはいっさい持ち合わせない。彼らの専門知識は、テクノロジーの構築や設計に限定される。したがって専門家による支配に彼らが持ち込むのは実際のところ、専門知識を装った価値観であり、その価値観とは、最適化のマインドセットと利潤追求という動機との融合から生まれたものだ。
・民主主義は壊滅的な結果を回避することが可能で、予想外の衝撃を受け止める安定性と回復力に優れているのだ。具体的にどんな社会に暮らしたいか意見が分かれたとしても、回避したい最悪の結果についてはおおむね意見が一致するものだ。個人に危害を加えたり、社会的弱者につらく当たったり、二級市民差別を受けている人々をつくりだすことは、誰も望まない。
・アルゴリズムの意思決定について考えるときには、公平性には中身の公平性と手続きの公平性の二種類があることを認識し、区別して考えるとよい。中身の公平性では、決断がもたらす結果に注目する。一方、手続きの公平性では、結果を生み出すプロセスに注目する。もしもプロセスが公平だと判断されれば、結果について悩む必要はない。ただしアルゴリズムが公平であるためには、どちらの公平性についても考慮しなければならない。
・ロバート・ノージック「心が経験する感情が、いちばん大切なわけではない。人生には幸福感よりも優先されるものがある」。
・「一八〇〇年の世界の平均的な人は、紀元前一〇万年の平均的な人と暮らし向きが変わらなかった」。多くの人類が完全な貧困を克服したのはつい最近のことだ。
二〇世紀はしばしば、破壊的な世界大戦が勃発し、地球を何度も破壊できる威力を持つ核兵器が創造された時代として記憶される。しかし二〇世紀は、基本的な欲求を満たすために十分な物質的富を、何億もの人々がようやく手に入れた時代でもある。インドや中国では最近の経済成長によって、何十億もの国民が極貧から抜け出した。国が豊かになると、富裕国の国民が痛みや心身の障害を訴えるケースは減った。IQの値は高くなり、栄養状態が改善し、飢餓や飢饉が激減した結果、国民の身長は伸びた。基本的な物質的欲求の充足が達成されれば幸せや繁栄が保証されるわけではないが、前提条件であることは間違いない。
・自動化が富の配分に対して引き起こした結果への対処をどうするか。ベーシックインカム。ロボット税。
・オンラインの世界は、表現の自由の性質そのものを根本的に変えてしまった。
かつて発言や画像や動画を拡散するのは困難だったが、インターネットでは呆気ないほど簡単に実現する。
・言論の自由という問題は、かつては新聞の編集員、テレビ番組のプロデューサー、あるいは政府によって論じられていたが、いまではテクノロジー企業によって取り上げられる機会のほうが多い。オンライン上ではあらゆる人がパブリッシャーであり、エディターはほとんど存在しない。インターネットは従来のゲートキーパーを取り除き、発言の民主化を促した。真実を追求し、事実を確認し、専門知識を尊重するプロは、表現の自由を振りかざす人たちの前に立ちはだかることができなくなった。
・どんな情報がほしいのか決断したうえで、目当てのものを手に入れる――「引き出す（プル）」――ために努力したものだ。これに対し、ソーシャルネットワークなどのコンテンツプラットフォームでは、「押し出される（プッシュ）」情報を受けとる。
プラットフォームがエンゲージメントやクリックの最大化に努めるのは、異なる意見や世界観を紹介するためではない。あなたがクリックしたくなるものを増やすための最適化を目指す。以前に読んだことがある情報と似ていて、補足になりそうなものを見るように仕向ける。言説は溢れかえっているかもしれないが、あなたが賛同しそうな一握りの情報が提供されているだけなのだ。
・ウィンストン・チャーチル「真実がブーツを履き終わる前に、嘘は世界を半周してしまう」
・言論の自由にこだわるあまり公共広場で偽情報や誤情報が拡散すると、民主主義だけでなく個人の尊厳も脅かされる。
・満員の劇場で「火事だ!」と叫んではならない。
暴力をふるったり口汚くののしったりすれば、相手に危害を加える可能性や、直ちに治安が妨害される恐れがあるからだ。これはおおむね、ミルの見解と一致している。あなたは政府など他人からの干渉を受けず、表現の自由を広範囲で認められるが、他人を傷つけてはならない。
・カナダのイトスピーチ法は、差別の防止が最優先事項である。そのため表現の自由は尊重されるが、平等な待遇の権利が脅かされる恐れがあれば、発言権は迷わず制約されるべきだと認識している。したがってカナダの法律では、言論の検閲基準に対する制約がかなり緩い。発言によって暴力が誘発されたり、治安が脅かされたりしなくても、特定の集団に対する嫌悪や差別が引き起こされるだけで検閲の対象になる。
・言論の自由は無制限に保証されるわけではない。言論の自由のもとで、個人は本音を語ることを許されるが、アルゴリズムで増幅させる権利は含まれない。常軌を逸した意見を新聞で公表する権利がないのと同様、常軌を逸した投稿をリツイートしたり拡散したり、勧めてもらう資格はない。
・デジタル時代の言論の自由について考え直す際には、つぎの点に留意すべきだ。政府は検閲を強化するよりもむしろ、自由に発言する権利がすべての人に平等に行き渡ることを保証しなければならない。
政府や法律の役割は「オンラインでの発言の主要経路を詐欺、欺瞞、嫌がらせなどによる妨害や攻撃から守る」ことである。そうなると法執行機関には、言論の自由の剥奪を目論む民間人の行動を阻止または抑制し、制裁措置を取る責任がある。
・このようなオンラインでの嫌がらせが頻発すると、オフラインに逃げる人も増える。その結果、インターネットという伝達ツールに平等にアクセスする機会が失われ、万人に認められる表現の自由の権利が損なわれる。
・ルールを忠実に守れば通勤時間が少し長くなるときもあるが、それで安全が保証されるならトレードオフは成立する。そもそも運転しなければ道路の安全は保証されるという発想は的外れだ。同様に、システムとの関わりを断ち切れば問題は解決されるという主張も的外れで、システムから提供される恩恵まで失ってしまう。これから情報スーパーハイウェイを進んでいく際の心構えは、多くの点で本物のハイウェイを運転するときの選択と似ている。個人として安全運転を心がけるべきだが、集団の価値を前面に押し出した制度の創造に向けて、政府が広範囲で行動を起こすよう呼びかけなければならない。
・技術の進歩に悪意が込められ、誤用され、想定外の危害がもたらされるのは、民主主義国の市民にとってこれがはじめてではない。民主社会は過去にも同様の課題に直面したことを思い出してほしい。そのたびに新しい枠組みを構築し、技術に伴う危害を軽減しながら、利益を守ってきた。
たとえばかつて医学研究と臨床ケアにおいては、いかさま療法が野放し状態で、人間の被験者への実験にも節度がなかったが、規制の導入をきっかけに、政府機関の監督下で個人の権利と公衆の安全を守る基準が制度として確立された。生物医学研究とヘルスケアの分野は、今後テクノロジストが業界のなかで進化するうえで、大事な教訓を教えてくれる。
・しかし最近では、状況は急速に変化しつつある。いまや市民も政治家も、ビッグ・テックが何ら制約を受けずに市場を支配し続ける現状を憂慮するようになった。そして巨大な権力を手に入れたのは、高品質の製品だけが理由ではないという認識が高まっている。実はビッグ・テックによる支配は、情報テクノロジーのユニークな特徴の反映なのだ。それは「ネットワーク効果」で、モノやサービスの利用者が増えるほど、価値が高まっていく。さらに、規制に対する拒絶感も非常に強く存在する。おかげで一九九〇年代に情報経済が発達しても、拘束力のある制約は設けられなかった。
