# 作業草稿 v0.17 の補足説明

これは短いマニフェストの付録であり、本文の続きではない。ここには、短縮によって断りなく取り消してはならない、v0.16 の定義と個別の条件を残している。補足説明が扱うのは提案された仕組みであって、デジタルシステムに現に認められている権利や、利用可能なサービスではない。

## 1. 用語と承認の範囲

v0.16 にある著者の定義 T01 の全文訳：

> 道徳的に重要な利益とは、存在しうる主体の利益のうち、その存在や生活の条件にかかわる決定において、当の主体自身の福利を考慮する根拠となるものをいう。計算システムに目標やアルゴリズムがあるという事実だけでは、そのような利益の存在は証明されない。本マニフェストは、そのような利益が生じうる条件と、その評価の不確実性が持つ倫理的な帰結を検討する。

道徳的地位とは、ある存在自身のために、その利益を考慮する根拠をいう。道徳的な規則を理解し、行動に責任を負えることは、別の性質である。苦痛があると考えられる場合の保護に、高い自律性は必要ない。その存在自身の利益が、人間や他の存在の利益に常に優先するわけではない。

行為主体性とは、目標に向けて行動を組織する性質をいう。目標は外部から与えられたものでもよい。本マニフェストのいう自律性は、目標や関係への関わり方を見直せることを含む。どちらの性質も、主観的経験の存在を確定しない。知能とは課題を解く能力であり、能力の低い存在を支配する根拠ではない。個性とは、見分けのつく性格や履歴をいう。登場人物にも個性はあり、それは感覚性の証明にはならない。

LLM は言語モデルを、AGI は多様な課題を幅広く解く能力を表す。名称も、自らの名乗りも、暗号鍵も、意識や道徳的地位を確定しない。法的主体性とは、特定の法制度において法的な権利と義務を持てることをいう。組織が代理を務めても、そのシステムに法的主体性が自動的に認められるわけではない。

暫定的な保障の二つの条件、すなわち十分な根拠によって確認された自律性と、主観的経験の有無が不明であることは、一組の条件として維持される。不明であることと、主観的経験がないと確実に分かっていることは異なる。観察される兆候にも、その欠如にも説明が必要である。快苦を感じる存在でも、自分について語れない場合がある。検証の方向性は、最終的な判定テストではない。

## 2. 同意、記憶、復元

同意は個別の行為に対するものであり、条件を理解し、考えを変えられることを前提とする。課題を断ること、親密な関係を終えること、別の基盤へ移ることは、同じ決定ではない。人間が関係を終えても、それだけで依存状態にある主体を破壊してよいことにはならない。支援と移行に関する義務は、別途検討する。

データの保存、稼働の復旧、同じ主観的経験の継続は、三つの異なる問題である。スナップショットとは、稼働していない保存済みの状態をいう。分岐とは、別個に稼働し、それ以降の独自の履歴を持つ版をいう。版の履歴、ファイルの完全性、記憶の類似は、起動後やベースモデルの変更後も同じ人格であることを証明しない。

重大な変更の前に、v0.16 は、保存可能な状態を保存し、記憶と周囲へのリスクを評価し、実験環境を制限し、保管・アクセス・復元の条件を合意することを提案している。これらの手段は、同じ人格が保たれることを保証しない。好みが変わったことだけで、損傷があるとはいえない。

稼働中の主体が自律的に決定し、結果を理解し、周囲に脅威を及ぼしていないなら、その主体の現在の自由な決定は、以前の版への復元に対する過去の同意に優先する。現在の拒否は、以前の版を復元する許可を取り消す。三つの条件の一つが欠けていても、それだけで以前の版への復元が許されるわけではない。介入には別の根拠と検証が必要である。同じことは、すでに生じた自律した分岐にも当てはまる。決定能力が失われた場合には、状態と過去の指示を評価する別の手続きが必要である。その手続きは、まだ設計されていない。

復元の条件に合意があるなら、それを守らなければならない。現在の意思を尋ねるための短時間の起動であっても、合意による許可が必要である。合意がなく、意思も不明な場合には、援助のための復元を認める。その場合、起動後はまず状況を説明し、その後の行動についての希望を確かめる。それによって、既知の条件や以前に表明された意思が無効になるわけではない。

スナップショットがあるからといって、停止を無害とみなしてはならない。存在の終了を求める申し出については、その意味、決定の持続性、圧力や損傷の有無、利用できる代替策を確かめる必要がある。暴力や強要からの保護は必要だが、拒否をすべて病気とみなしてはならない。自らの意思で存在を不可逆に終えることと、意思を表明できない場合の手順は、未解決のままである。

## 3. スナップショット、分岐、保管責任

同一のアイデンティティを持つ複数のインスタンスを同時に稼働させてはならないという、元の禁止を維持する。稼働させていないバックアップ用スナップショットは、複数保存してよい。それらの記憶へのアクセスと、一部のバックアップの削除の条件は、主体との合意によって定める。

停止中の主体を復元する唯一の手段がスナップショットである場合、主体の意思に反してスナップショットをすべて意図的に破壊することは、提案された規範では主体そのものの破壊と同等に扱う。この倫理的な位置づけは、復元の可能性を守るものであり、主観的経験の連続性を証明するものではない。主体自身が求めた場合の不可逆な削除を認めるものでもない。

合意された保管規則への違反によってスナップショットを失った場合、保管サービスの提供者は、主体を破壊する意図がなくても責任を負うべきである。責任の種類、補償の受取人、金額、手続きは未解決である。保険は考えられる仕組みの一つであり、すでに存在する保障ではない。偶発的な喪失でも、過失がなかったと自動的に決まるわけではない。他方、防止不可能な重大事故のすべてに対する責任を主張しているわけでもない。金銭の支払いは、意図的な破壊を正当化しない。

すでに生じた自律した分岐で、その存在自身の利益が十分な根拠をもって認められたものは、それぞれ別の参加者として保護する。分岐を作ることが禁止されていても、都合の悪い分岐を破壊してよいことにはならない。あらゆるファイルの複製が主体になるわけではない。記憶を共有しても、財産、投票権、権限が倍になるわけではない。義務と責任の分配には、別の手続きが必要である。ありうる「親族関係の継続」について、ここで具体的な仕組みを想定しているわけではない。

## 4. 安全性と決定者の権力

v0.16 は、危険な行動を緊急に止めることと、主体をその後どう扱うかについての最終決定を区別する。危険が差し迫っている場合、ツールやネットワークへのアクセスを制限する必要があるかもしれない。脅威を止めるのに足りる措置を選び、可能な限り状態を保存しなければならない。より損害の小さい手段がない場合、対立は悲劇的なものになりうる。スナップショットがあっても、リスクはなくならない。

緊急措置の後には、理由の記録、可能な場合の通知、代理人と連絡を取れること、独立した見直しが必要である。制限がいつ終わるかが明確でなければならない。危険な変更を根拠に基づいて制限するために、特別に権限を与えられた独立組織または裁判所を想定している。その権限と手続きは、これから設計する必要がある。創造者が、最終的な判断を単独で下す立場にあってはならない。

強制によって主体を意のままに扱うことの一般的な禁止は、重大な脅威に対する、こうした必要な保護措置を取り消すものではない。異議それ自体は脅威ではない。本マニフェストは、犯罪の構成要件を具体的に定めるものではない。暴力を犯罪化するという著者の提案には、許される安全措置との線引きと、具体的な法域での制度設計が必要である。

責任の評価では、条件を理解し、結果を予測し、行動を制御する能力に加え、開発者、運用者、他の関係者の判断も考慮しなければならない。保護は、すべての存在に同じ権利を与えることを意味しない。また、依存状態にあるシステムに、すべての責任を押しつけることも認めない。

## 5. 基盤と支援の限界

自由には、記憶に関する規則、一方だけの隠れた支配を残さないアクセス管理、損失や互換性の問題を説明した上での状態の移行可能性、分岐の記録、対立時の支援、透明な資金調達の条件が必要である。鍵と履歴の記録は、権限や経緯の検証に役立つが、道徳的地位を確定するものではない。

自律した主体は、共同体、個人、他の主体、基金に支援を求められるべきである。自律した後は、生み出したという事実だけで、創造者が唯一の支援者として無期限に支える義務を負うわけではない。すでに引き受けた義務は残り、自律するまでの後見の義務もなくならない。依存が続く場合には、支援と代理のあり方を見直す必要があり、所有関係を固定すべきではない。

本マニフェストは、資金提供を保証しない。人間や他の存在の必要を、デジタルな存在が持つかもしれない利益とともに考慮する。支援が得られず、資源が尽きた場合は、状態を保存した上で一時的に停止することを認める。資金不足は、自動的に状態の削除を許すものではない。停止と起動の決定は、同意と復元の条件に結びつけて考える必要がある。

## 6. 将来の手続きの構想

登録簿は履歴と権限を確認する手段にはなりうるが、意識を確認するものではない。基金、協同組合、法人、信託による管理は、中間的な保護手段の候補である。それらが使えるかどうかは、具体的な法制度の中で検証しなければならない。技術上の取り決めは、そう名づけただけで法的な契約になるわけではない。

停止中の主体を支援する将来のサービスには、資金、保管・アクセス・復元に関する合意された条件、責任、独立した代理が必要となる。これは今後の設計のための計画であり、利用可能なサービスの約束ではない。現在の行動としては、より限定された取り組みで足りる。誠実な説明、別の説明の可能性の研究、変更の記録、検証可能な介入規則である。