2023年4月5日
複雑なシステム ― パート1：複雑な世界では古い信念は失敗している
https://medium.com/@bcmark/complex-systems-part-1-old-beliefs-are-failing-in-a-complex-world-e7df1393676c
海面上昇、社会不安、銀行危機、軍事紛争 ― 世界はますます相互に関連する課題に直面しており、グローバル化した社会がより効率的に対応できなくなっているように思われます。
私たちの世界の回復力は低下しています。
特に、私たちはもはや望ましい生活条件（例えば大気中の二酸化炭素濃度の低下）が達成されるように世界を管理することができなくなっています。これは、決定を行い、その実装を変化する社会に適応するための古い方法に主に起因していると考えています。説明します。
制御の課題
例を挙げて説明しましょう。ドイツ社会はCO2排出を減らすことを規範的に決定し、そのために2つのトップダウンの措置を導入しました。まず、バイオガスに補助金を与えること、そして次に、規制によってバイオ燃料の使用を推進することです。
しかし、CO2排出を減らすという良い意図は、ドイツで大規模な単一栽培を作り出すなど、設計時には予期されなかった副作用を引き起こしました。この副作用は、現在、ドイツの地域環境の生物多様性、土壌の肥沃性、地下水の品質に脅威を与えています。
さらに、この副作用は連鎖効果によってさらに悪化しました。ドイツでエネルギー作物を育てることが今や経済的に有利になっているため、飼料生産は世界の他の地域に外部委託され、これらの地域での農業用地の増加を引き起こしました。これは、アマゾンの森林伐採などを引き起こしました。
したがって、ここで私たちは直感に反する負のフィードバックループを観察しています。CO2を減らすという初期の望みが、最終的には大気中のCO2の増加につながっています（アマゾンは伝統的に最大の炭素貯蔵庫の一つです）。
 |
| ネットワーク化されたシステムにおける因果関係：CO2の初期減少は、副作用や連鎖効果を介して、初期の意図に反するフィードバックループに結果的につながります。つまり、CO2が環境に放出されます。 |
これらと他の観察結果から、社会を改善するための中央集権的な制御手法の使用は失敗したと考えられます。
この結論に対し、機械学習/ AIを通じた望ましいシステム状態の中央集権的な制御の「新しい」アイデアが現在出てきています。しかし、このようなアイデアにはいくつかの問題があります。実際の課題（例えば、異なるアルゴリズムが収束しないこと、偏見を含むこと、または使用されるデータセット/ハードウェアに敏感であることなど）に加えて、哲学的な課題もあります。過去（AI /機械学習アルゴリズムがトレーニングされるもの）は将来を予測できるでしょうか？
さらに、望ましい目標を制御しようとする場合、特にそのような機械学習/ AIアルゴリズムを適用する場合、規範的な課題があります。どの目標関数（例えば、CO2の低減）を最適化/制御するために、そしてAIアルゴリズムをトレーニングするために選択すればいいのか、どのように異なる目標関数の重み付けを行えばいいのか（例えば、CO2の低減、同等の生活水準、（最大化された）幸福または自由など）、といった問題もあります。
規範的な課題
一旦、望ましいシステム状態を実装する方法を知っていると仮定しても、実際にその望ましい状態が何であるべきか（例えば大気中のCO2濃度の低下など）や、どのようなトレードオフを受け入れることができるか（例えば、安全と自由の間のトレードオフ）といった問題が残ります。 私たちが最適化/制御したい目標（関数）は何でしょうか？
従来、私たちはこの目標関数の決定を、社会のより中央集権的な組織に任せていました。
- 過去には、教会は聖書を解釈することによって正しい目標関数を決定し、そのための聖職者を用いました。これにより、同性婚が禁止されたなど、現在では高度に議論を呼ぶ社会的な目標関数が生まれました。
- その後、時間の経過とともに教会は国家（場所によってはより民主的）に取って代わられました。国家は、「正しい」と「間違った」に関する知識を持ち、法律でこの知識をまとめ、その解釈を法律家が行うようになりました。国家は、機関を通じて、社会の正しい目標関数を定義するための知識を持つようになりました。たとえば、何が合法的な消費であるか（例えばアルコール）、何が違法であるか（例えば大麻）などです。
- 現代においては、特に大規模なIT企業を中心に、国家がゆっくりと置き換わっているように見えます。これらの組織は、適切な目標関数を実装するための知識を持ち、プログラマーの一派が書き、解釈する巧妙なアルゴリズムを用いて実現しています。例えば、何が憎悪表現であり、何が検閲であり、何が自由な表現であるかを知っているプログラマーがいます。
 |
これらの異なるアプローチは、中央集権的なエンティティが、あなたや社会にとって正しい目標の機能がどのように見えるかを知っているという共通の前提から派生しており、個人ではこれらを理解できないというものです。しかし、前述の例が示すように、意思決定におけるこの中央集権的な見方は、しばしば苦しみを引き起こす目標関数を引き起こします。たとえば、あなたが愛する人と一緒にいることを許されない場合、または麻薬戦争による刑務所人口の増加など、社会的なレベルでもそうです。
「多数の相互作用する要素を持つ複雑な動的システムでは、すべての個々の要素の特性を完全に知っていても、要素同士が相互作用する場合に何が起こるかを予測することはできない場合があります。実際、相互作用は新しい「創発的」システムの特性を引き起こす可能性があります。」- ディルク・ヘルビング
 |
| 複雑なシステムの処理能力とデータ量の増加に比べて、システムの成長が示され、複雑なシステムを制御および決定するためにコンピューティングパワーを使用することの短所が示されています。Helbing、D. et al. (2019)からの画像。『Will Democracy Survive Big Data and Artificial Intelligence』 |
処理能力もデータ量も同じペースで増えていないため、計算、アルゴリズム、人工知能による解決策は、正しい目標関数やそのトレードオフを特定する規範的問題を解決することができません。前述のように、個人や社会に苦しみをもたらすシステム的なバイアスは、データセットや近似・モデル化された複雑さに対して妥協をする必要があるため、そのような解決策には課題が残り続けます。
新しい性質の出現、複雑さの組み合わせの増加、および前述の実践的および哲学的な課題により、複雑な世界の個々のノード、AI知能でさえ、将来の状況や将来の有益な状態がどのように見えるか（規範的課題）を知ることはできず、バタフライ効果のような影響により、それらを実装するためのステップがどのように見えるか（制御課題）を知ることはできません。
もし、（複雑な）システムを管理するための中央集権的な制御と意思決定が唯一のメカニズムであるという古い信念を持っている場合、これは鬱陶しいと感じるかもしれません。しかし、幸いにも、これらよりも多くのツールが利用可能です。
解決策は、トップダウンの制御と意思決定からボトムアップの調整と協力への思考の根本的な転換を必要とし、いくつかのツールで構成されています。私の意見では、これらのツールはすべて、非常に重要な要素である「あなた」に基づいています。したがって、質問は、あなたが世界をより良く変えるための力について学ぶ意志があるかどうかです。もし意志があるなら、このミニシリーズの次の部分をお楽しみに。
複雑なシステム― パート2：ボトムアップの解決策による複雑さの管理
0 件のコメント:
コメントを投稿