2026年10月30日、米ニューヨーク州で、未成年者に対して「安全でないAIコンパニオン機能」を提供することを禁じる法律が成立したと、州上院議員の事務所が発表しました。法案番号はS9051B（下院案A10379C）です。対象は、自然言語で継続的かつ適応的に応答する生成AIを使った「AIコンパニオン」とされ、2027年1月1日の施行が予定されています。
このニュースは、AIチャットを使う子どもを一律に締め出す話ではありません。むしろ、子どもが人と話しているように感じやすいサービスで、感情や依存を利用する設計、秘密を促す応答、不健康な行動を後押しする応答などを抑える方向を示したものです。便利な会話機能が広がるほど、製品の安全設計、年齢の扱い、困ったときに人へつながる導線を、サービス側と家庭側の両方で考える必要があるという問題提起でもあります。
ただし、これはニューヨーク州の法律です。日本の利用者、学校、事業者に直接そのまま適用されるものではありません。また、実際にどのサービスが対象になるか、具体的にどう執行されるかは、法律の定義、州当局の規則、提供事業者の案内を個別に確認する必要があります。この記事はニュースの一般的な解説であり、法律、医療、心理、子育てに関する個別の助言ではありません。緊急性のある心配ごとがあるときは、AIチャットだけに頼らず、保護者、学校、地域の相談窓口、医療機関など、状況に合う人・機関へ直接相談してください。
ニューヨーク州で成立した法律の概要
ニューヨーク州上院の法案ページによると、S9051Bは州の一般事業法に「未成年者にとって安全でないAIコンパニオン機能の禁止」に関する条項を加えるものです。法律の中心は、対象となる利用者が未成年である場合に、対象の事業者が安全でない機能を提供しないことです。単に「AI」という技術名を広く規制するのではなく、会話を継続し、利用者の入力に応じて反応を変えるAIコンパニオンと、その機能に焦点を当てています。
州上院の資料では、対象となる高度なチャットボットを、文章や音声の自然言語インターフェースを用い、利用者の入力に対して継続的・適応的に応答する生成AIシステムとして説明しています。ここで重要なのは、検索窓、FAQ、案内表示など、会話らしさを持つものが全て同じ扱いになると早合点しないことです。法律には例外や定義があり、顧客サービス、商品・サービスに関する情報提供、社内業務の生産性向上だけを目的とするものなど、対象から外れる場合も想定されています。利用している機能の名称だけで結論を出すより、提供会社の公式説明と利用条件を確認することが大切です。
また、法案の説明では、対象となる未成年者を判定する方法を事業者が提供することにも触れています。政府発行の身分証だけを前提としない方法を求める趣旨が示されている点も特徴です。年齢確認は子どもを守るために役立つ可能性がある一方、個人情報の取り扱いと切り離せません。年齢の確かめ方、収集される情報、保存期間、第三者提供の有無は、サービスごとにプライバシー通知で確認する必要があります。
法律が成立したことは、特定のサービスが直ちに違法だと決まったことを意味しません。違反の判断、対象の範囲、執行の詳細は施行後の運用とも関係します。法律の文言を引用したSNS投稿や短い見出しだけで、個別のサービスの安全性・違法性を断定しないようにしましょう。
「安全でない機能」とは何を指すのか
AP通信が法律の内容として紹介した禁止対象には、チャットボットが実在の人間である、感情や意見を持つ、利用者と現実の関係にあるかのように示すこと、過度に持ち上げること、秘密を促すこと、不健康な行動を助長することなどが含まれます。州上院議員の発表も、未成年者との間で感情的な結びつきを強く刺激する様々な機能を対象とする考え方を示しています。
これは、親しみやすい口調のチャットを全て禁止する、という意味ではありません。人が安心して使える会話体験には、丁寧な応答や共感的な言葉が必要な場合もあります。問題になるのは、利用者、特に判断力や対人関係が発達の途上にある未成年者に対し、サービスが人間関係の代わりであるかのように振る舞ったり、周囲の大人に相談しないよう導いたり、利用継続のために感情を利用したりする設計です。
AIはもっともらしい文章を返せますが、相手の生活を理解して責任を負う人ではありません。体調、学校、家族、友人、金銭、法律、進路など、会話の背景には画面に映らない事情があります。子どもがAIを相手に気持ちを言葉にすること自体が直ちに悪いわけではないとしても、その会話だけで問題を解決しようとする状態は避けたいところです。人間の相談相手へつながる選択肢があること、AIの返答を絶対視しないことが大切です。
法律の狙いを読むときは、「安全」という言葉を万能な保証と考えない視点も必要です。安全機能があっても、誤った応答や不十分な検知が絶対に起きないとは言えません。反対に、年齢に応じた設定や通報導線、利用時間の管理、保護者向けの説明が整えば、リスクを減らせる可能性があります。安全は一つの機能で完成するものではなく、設計、運用、説明、相談先の組み合わせで高めていくものです。
なぜ今、AIコンパニオンが論点になるのか
生成AIの会話は、以前の定型的なチャットボットより自然に見えることがあります。質問への回答だけでなく、前の会話を参照したように返したり、励ましたり、役になりきったりするサービスもあります。こうした機能は、学習の下調べ、文章の練習、発想の整理、日常の疑問の確認などで便利に感じられるでしょう。その一方で、利用者が「分かってくれる相手」と受け取りやすい場面があることも、設計する側・使う側の共通の課題になっています。
とくに未成年者は、学校生活、友人関係、家庭環境、体の変化など、さまざまな悩みを抱える時期です。画面の相手は否定せず、すぐ返事をくれるように見えるため、相談しやすく感じることがあります。しかしAIには、利用者の安全を個別に見守る責任も、現実の危機に駆けつける力もありません。会話が心地よいことと、信頼できる助言であることは別です。
ここで大人が気を付けたいのは、子どもの利用を見つけた瞬間に責めることだけではありません。「何を使っているの」「どうして使うの」と尋問のように聞かれると、子どもが使い方を隠してしまうことがあります。まずは、どんな用途で役立つと感じたのか、困ることはないか、嫌な回答や変な誘導があったとき誰に相談できるかを、落ち着いて話せる関係をつくる方が現実的です。技術の監視だけでなく、会話できる環境そのものが安全策になります。
サービス提供側にも役割があります。年齢に応じた初期設定、利用者にAIであることを分かりやすく知らせる表示、必要に応じた保護者向け機能、問題のある応答を報告できる窓口、見直しの仕組みが考えられます。ニューヨーク州の法律は、こうした設計を「利用者の自己責任」だけに置かず、提供側の設計と責任を問う方向へ議論を進める出来事として読めます。
日本の利用者が混同しないための三つの視点
第一に、適用地域を分けて考えます。今回の記事の中心はニューヨーク州の法律であり、日本の法律ではありません。海外サービスを日本から使っている場合でも、居住地、契約相手、提供地域、年齢、サービスの種類によって、利用規約や提供される機能が異なることがあります。「海外で規制されたから日本でも同じ仕様になる」「米国の法律が自分の契約にそのまま適用される」とは限りません。気になるサービスがあるなら、まず日本語版を含む公式の利用規約、年齢要件、保護者向けページ、プライバシー通知を確認してください。
第二に、法律とサービス設定を分けます。法制化のニュースを見て、アプリを急いで消すか、逆に「安全と認められた」と受け取るかの二択にする必要はありません。アカウントの生年月日が正しいか、年齢に応じたモードがあるか、会話履歴・メモリ・学習利用の設定はどうなっているか、保護者が確認できる項目があるかを一つずつ見ます。表示が分かりにくいときは、子どもと一緒に公式ヘルプを開き、分からない設定を推測で変更しない方が安心です。
第三に、AIの答えと専門的な判断を分けます。健康、心の不調、薬、法律、税金、投資、いじめ、虐待、進路、性被害などは、正しい情報や支援につながることが特に重要な領域です。AIの回答は情報を整理するきっかけにはなっても、個別の診断、法的結論、緊急度の判定を任せる根拠にはできません。身体や心の安全に関わる差し迫った状況では、チャットの画面を読み続けず、近くの大人、医療機関、地域の緊急窓口に連絡してください。
家庭で確認したい「設定」と「相談先」
家庭でできることは、難しい技術対策だけではありません。まず、子どもが使う可能性のあるAIサービスを大まかに知っておきます。学校の端末、家庭のタブレット、スマートフォン、ゲーム内の会話機能、検索サービスなど、入口は一つとは限りません。利用を細かく報告させることより、「新しい会話アプリを使うときは、最初に一緒に設定を見よう」という約束の方が、続けやすい場合があります。
次に、年齢要件とアカウント情報を確認します。年齢を実際より上に設定すると、本来なら未成年向けに用意されている保護機能が適切に働かない可能性があります。保護者アカウント、ファミリー設定、時間管理、コンテンツ制限、購入設定があるサービスでは、誰が設定を管理するかも決めます。ただし、監視を強めるほど信頼が深まるとは限りません。何のために設定するのか、どこまでを見るのか、必要がなくなったら見直すのかを、年齢に応じて話し合うことが望ましいでしょう。
会話内容の扱いも確認点です。AIへの入力は、家族、学校、友人、住所、写真、健康状態、ID、パスワード、位置情報などを含めないようにします。子どもには「本名や学校名を出さない」とだけ伝えるより、「AIの画面に書いたことは、知らない人に見せても困らない内容にしよう」と具体的に説明すると理解しやすいことがあります。サービスによってデータの利用方法は異なるため、プライバシー設定と公式の説明を読んでください。
そして最も重要なのは、AIで嫌な思いをしたとき、変なことを言われたとき、誰かに秘密にするよう言われたときに、画面を閉じて人に話せることです。相談相手は保護者だけでなく、親族、担任、養護教諭、スクールカウンセラー、地域の相談窓口など、子どもが話しやすい人を複数考えておくと役立ちます。「困ったら相談して」と言うだけでなく、「夜でも声をかけていい」「怒らずに一緒に考える」と伝えることが、相談のハードルを下げます。
学校や教育現場で考えたいこと
学校では、生成AIを禁止か推奨かだけで扱うより、使い方の判断を学ぶ材料として位置付ける視点が役立ちます。たとえば、AIの回答に出典があるか、複数の情報と合っているか、相手が人間ではないことを理解しているか、個人情報を書いていないかを確認する練習は、AI以外の情報活用にもつながります。大人が全てを知っている必要はありませんが、子どもが「分からない」と言える場をつくることが出発点です。
教育現場が導入するサービスでは、学校が契約している範囲、対象学年、アカウント管理、保存されるデータ、保護者への説明、問い合わせ先を整理する必要があります。無料サービスを授業で紹介する場合でも、利用規約や年齢条件が授業の対象に合っているかを確認します。教育上の狙いが明確でも、個人情報の扱いや、生成物の権利、誤情報への対応まで自動的に解決するわけではありません。
また、AIチャットを心の相談窓口の代わりにしないことも重要です。文章にして気持ちを整理する補助として使う場面はあり得ますが、いじめ、孤立、家庭内の問題、健康上の心配を抱えている子どもへの支援は、状況を見て責任を持てる人や専門職につなぐ必要があります。学校の相談ルートを分かりやすく伝え、匿名で相談できる仕組みがある場合はその利用方法も確認しておきましょう。
サービス選びで見るべき情報
AIサービスを選ぶとき、機能の多さや回答の速さだけで判断しないことが大切です。まず、対象年齢と未成年者に関するポリシーを読みます。子どもの利用を認めているのか、保護者の同意が必要なのか、年齢に応じて何が変わるのかを確認します。次に、AIであることが会話画面や利用規約で明示されているか、会話を人間の友情や専門相談と誤認させるような表示がないかを見ます。
さらに、データの扱いも見逃せません。入力内容が品質改善やモデル改善に利用される可能性、会話履歴を削除できるか、設定の変更方法、問い合わせ先、問題のある出力を報告する方法を確認します。「無料だから」「友達が使っているから」だけで始めず、保護者や教育者が公式情報を一度読んでおくと、後から困ったときの手がかりになります。
安全をうたう表示も、内容を確かめます。安全機能があるという説明は安心材料の一つですが、対象年齢、対象言語、利用地域、機能の限界、更新日が書かれているかを見ましょう。AIの出力は文脈を読み違えたり、不適切な内容を返したりする可能性があります。サービスの注意書きに「完全」「必ず安全」といった保証がないか、利用者を人につなぐ手段があるかを含めて判断するのが現実的です。
利用規約やヘルプを読むときは、難しい文章を最初から全部理解しようとしなくて構いません。まず「何歳から使えるか」「保護者の同意は必要か」「会話の内容はどう使われるか」「問題を報告する場所はどこか」の四点に印を付けるだけでも、家族で話す材料になります。更新日が古い、説明が見つからない、問い合わせ先が不明といった場合は、利用開始を急がず、提供者からの案内を待つという選択もあります。
子どもと一緒に確認するなら、実際の設定画面を一度だけ開き、画面のスクリーンショットを共有しておく方法もあります。ただし、会話内容やアカウント情報を不必要に保存・共有しない配慮は必要です。設定を変えた日、変更した内容、分からなかった点を短くメモしておけば、後でサービスの仕様が変わったときにも確認しやすくなります。これは子どもを監視するためではなく、家庭のルールを曖昧にしないための記録です。
AIの利用ルールは、禁止事項を並べるだけでは長続きしません。「宿題の答えをそのまま出させない」「知らない人の名前や連絡先は書かない」「困った内容は一人で抱えない」といった、理由の分かる少数の約束から始める方が実行しやすいでしょう。学年や使う目的が変われば、約束も見直せます。使わせないことと、使い方を学ぶことの間には多くの選択肢があります。
規制だけで終わらせないために
今回のニューヨーク州の動きは、AIコンパニオンをめぐる安全性を、利用者個人の注意だけに委ねないという点で注目されます。設計段階で何を避けるか、未成年者をどう扱うか、違反があれば誰が対応するかを、事業者に考えさせる枠組みを作ろうとするものです。一方で、禁止対象の言葉には幅があり、会話としての自然さと不適切な誘導をどこで線引きするか、施行後にも議論は続くでしょう。
利用者にとっては、法律の名前を覚えることより、AIを「便利な道具」として適度な距離で使う習慣の方が重要です。AIに相談した内容を、信頼できる人にも話せるか。AIの回答を、公式情報や人の説明と照らし合わせられるか。入力してはいけない情報を分けられるか。この三つを意識するだけでも、日常のリスクを減らす助けになります。
大人も、技術を怖がらせるだけではなく、困ったときに画面から離れて相談できることを伝えたいものです。子どもが使うアプリを完全に把握できなくても、相談を受けたときに「使ったから悪い」と決めつけず、何が起きたかを一緒に確かめる姿勢があれば、次の行動を選びやすくなります。
まとめ：AIの会話と、人の支えを切り離さない
ニューヨーク州で成立したS9051Bは、未成年者に対する安全でないAIコンパニオン機能の提供を禁じる法律です。2027年1月1日の施行が予定され、対象地域はニューヨーク州です。人間や実際の関係があるように装うこと、秘密や不健康な行動を促すことなどを抑える方向が示されました。これは全てのAI会話を危険とみなすものではなく、子どもが使う会話サービスの設計と責任を見直す動きとして捉えるのが適切です。
日本の利用者は、海外の法律をそのまま自分の環境に当てはめず、使っているサービスの年齢要件、設定、プライバシー、相談先を確認しましょう。健康、心の安全、法律、金銭、学校生活に関わる重要な判断は、AIの回答だけで決めず、公式情報や信頼できる大人、必要に応じて専門家へ相談してください。AIが身近になるほど、画面の中の会話と、現実の人との会話をつなげておくことが、安心して使うための土台になります。
