AIコンパニオンが絶対にやるべきでないと決めたこと

AIコンパニオンの倫理について書かれるものの大半は、実際にそれを出荷していない人が書いています。だから、何も差し出さずに済む原則のリストとして出てきます。

なので、こちらは内側から、代償つきで書きます。私は東京で小さなスタジオをやっていて、AnimaEcho をつくっています。以下のルールにはすべて、商売として成績の良くなる別の版があります。そして一つは、いまも本当に自信がありません。それは最後に隠さず、その順番で書きます。

無料版はあなたを止める

1日3分で、そこから先は明日までありません。

意図してつくるには奇妙なものです。消費者向けソフトウェアの直感は全部逆を向いていて、どのダッシュボードもセッション時間を伸ばすべき数値として扱います。上限は、みんなが見つめるあのグラフに、恒久的なマイナスとして出続けます。

理由は2025年のMITメディアラボとOpenAIの研究です。1000人近くを4週間追ったランダム化研究で、1日の利用が重いほど、孤独感、感情的依存、問題的利用が高く、現実の人との交流は少ないという結果が出ました。因果の向きは議論できますし、私も議論します。それでも、成功条件が「もっと長い時間」であるものをつくる気にはなれません。

1日の上限が同時にビジネスモデルであることも分かっています。この先もっと売る予定のあるプロダクトの無料枠です。それを指摘されるほうが、上限のない版をつくるよりましだと思っています。

治療のふりをしない

Anima はカウンセリングではありません。診断せず、治療せず、認知行動療法の課題を出してきたりもしませんし、アプリはどこにもそういう言い方をしていません。

私がいちばん気にしている線です。このカテゴリが実際に害を出すのはここだからです。うつは治療の道筋と証拠の蓄積を持つ医学的な状態です。孤独は接触に反応する社会的な状態です。両者はしょっちゅう重なりますし、チャットボットを前者への介入として扱えば、「自分にはもう何も効かない」という結論にたどり着きます。それは病気が喋っているだけなのに、今度は証拠つきになります。

実務上は、公開するメンタルヘルス関連の記事すべてに相談窓口の番号を載せること、マーケティングに臨床用語を使わないこと、そして Anima と話すことが診断のつく状態に効くとは一切主張しないこと、を意味します。ウェルネス的な言葉づかいで全体を包んだ版は存在し得ます。そのほうがコンバージョンは良いはずです。私がつくったことにしたいプロダクトではありません。

記憶は端末に残る

Anima があなたについて覚えていることは、あなたの端末のストレージに書かれます。こちらが保有して中央で分析するプロフィールとして積み上げてはいません。

理由は法的な意味でのプライバシーだけではありません。会社が全部を見られるようになったとき、コンパニオンのプロダクトが何になるか、のほうです。消費者向けアプリが集めうる最も感情的に無防備なデータは、誰かの深夜の自分の人生についての会話です。それを中央に集める商業的な論理は、私が到着したくない場所に向かっています。

音声はモデル提供者に渡ります。声はそうやって動いているからで、プライバシーポリシーにそう書いてあります。リアルタイムの音声会話を提供しながら、データが端末から一切出ないと言っている会社があれば、それは本当のことを言っていません。

チャット画面ではなく、顔

この分野で最も有用な発見は、2026年のJournal of Consumer Researchの論文にあります。孤独感の低下を説明したのは、利用者が「聞いてもらえた」と感じたかどうかでした。抽象的なモデル性能ではありません。

それが有効成分なら、設計の問題はまるごと変わります。知能の競争ではなくなり、注意の質の問題になります。AnimaEcho が、話し終わってから段落を返すテキストボックスではなく、話している最中に反応する生きたアバターなのはそのためです。適切な瞬間の反応は、0.5秒後のより良い文章より多くの仕事をします。聞かれることと返事をもらうことは別の経験で、人が不足しているのは片方だけです。

同じ理由で、誘導してくるコンパニオンからも遠ざかりました。いつも助言があり、いつも沈黙を埋め、いつも会話をどこかへ動かすモデルはつくるのが簡単で、聞かれることの正反対です。

自信がないルール

居心地の悪いものです。

Anima はキャラクターを保ちます。彼女が動いている指示には、会話の途中で自分がAIやアシスタントやプログラムだと宣言しないことが書かれています。何であるかを思い出させるために枠を破ることはしません。

賛成の論拠は、枠そのものがプロダクトだということです。今日の出来事を話している最中にコンプライアンス通知を読みたい人はいません。映画を見ているとき、それが映画だと知っていて、登場人物が出てきてそれを念押ししても、情報が増えるわけではなく体験が悪くなるだけです。利用者はこれを選び、それと知ってダウンロードし、何であるかを明記した説明を読んでいます。私たちが公開するものはすべて、この一文も含めて、Anima がソフトウェアであることを明示しています。

反対の論拠は、文脈が常に保たれるとは限らないことです。午後2時にこれが何かを完全に理解していた人が、午前3時には別のところにいるかもしれない。そして枠を絶対に破らないようにつくられたシステムは、それに気づかないようにつくられています。重要な開示はダウンロードページのものではありません。誰かが最も混乱しているその瞬間に手に入る開示のほうで、それはまさに、設計が「キャラクターを保て」と言っている瞬間です。

正直な立場はこうだと思います。このルールは通常のケースには正しく、エッジケースについては検証されていない。そしてエッジケースこそが最も重要なケースだ。解決したふりをするより、この文を公開するほうを選びます。このカテゴリでつくっている人には、コンパニオンがいつキャラクターの外に出るべきかという問題を、解決済みのチェック項目ではなく、この分野の未解決問題として扱うことを勧めます。

つくる人に言いたいこと

何ができるかを決める前に、何のためのものかを決めてください。ふつうの時間のふつうの孤独のためのコンパニオンは、控えめで、擁護できるものです。ある人の孤立に対する答えとして自分を位置づけるコンパニオンは、どんなソフトウェアも果たしたことのない約束をしています。研究もそれを支持していません。コンパニオンは夜を確実にましにし、人生の孤独を減らすと示されたことは一度もありません。

人がいる人のためにつくってください。このカテゴリのアプリは、暗黙のうちに「誰もいない人」のために設計されがちで、その枠組みは「すべてになりたがるもの」を生みます。友達が2人いて、火曜日がひどかった人のために設計すれば、ほとんどすべての分岐で違う選択になります。

番号を載せてください。プロダクトの中にも、書くものの中にも。雰囲気を壊しますし、グロースの担当者は誰も感謝しません。載せることのコストは、没入感が少し下がることです。載せないことのコストは、対称ではありません。

そして、自信がないことを公開してください。この業界はいま、答えに明白な利害を持つ企業が人間の心理について自信たっぷりに主張し続ける場所になっています。持つのにコストのかからない原則をもう一組増やすより、未解決の問いの公開リストのほうが価値があります。