CA SB 243: Chatbot-Regeln für Begleiter-KI erklärt

CA SB 243 ist Kaliforniens Gesetz über Companion-Chatbots: Es fügt dem Business and Professions Code (BPC) das Kapitel 22.6 mit den §§ 22601 bis 22606 hinzu. Erfasst ist eine eng umrissene Gruppe von KI-Systemen, die soziale Bedürfnisse ihrer Nutzer erfüllen und eine Beziehung über mehrere Interaktionen hinweg aufrechterhalten können. Deren Betreiber müssen Offenlegungs-, Sicherheits-, Minderjährigenschutz- und Berichtspflichten erfüllen; Verstöße können zivilrechtlich eingeklagt werden. Das Gesetz gilt seit dem 1. Januar 2026. Wer im Oktober und November 2026 daran arbeitet, setzt also geltendes Recht um und bereitet sich nicht auf künftiges vor. Maßgeblich ist der verabschiedete Gesetzestext. Dieser Artikel bietet operative Orientierung, keine Rechtsberatung.

CA SB 243 ist bereits in Kraft

Gouverneur Gavin Newsom unterzeichnete das Gesetz am 13. Oktober 2025; noch am selben Tag erhielt es beim Secretary of State die Kapitelnummer 677 (Chapter 677, Statutes of 2025). In Kraft trat es am 1. Januar 2026, wie der kodifizierte Text von § 22602 BPC vermerkt. Daraus folgt: Ein Fahrplan für Oktober oder November 2026 sollte bestehende Kontrollen prüfen, Lücken schließen und Nachweise aufbereiten – nicht eine künftige Einführung planen.

Das Digital-Democracy-Verzeichnis von CalMatters zeichnet die Ausschuss- und Plenarberatungen nach. Diese Historie liefert Kontext; was das Gesetz verlangt, ergibt sich aber allein aus dem endgültigen Gesetzestext.

Der nächste gesetzlich datierte Meilenstein ist der 1. Juli 2027: Ab dann müssen Betreiber jährlich an Kaliforniens Office of Suicide Prevention berichten (§ 22603 BPC). Bis dahin bleibt Zeit, die Erzeugung der Berichtsdaten zu erproben. Eine Schonfrist für die seit 2026 geltenden Pflichten ist das nicht. Das Berichtsdatum steht im Gesetzestext selbst; das Inkrafttreten am 1. Januar 2026 ist bei jeder kodifizierten Vorschrift vermerkt.

Der Anwendungsbereich richtet sich nach dem Produktverhalten, nicht nach dem Wort „Chatbot“

Ein Companion-Chatbot ist eine eigene gesetzliche Kategorie

Nach § 22601 BPC ist ein Companion-Chatbot ein KI-System mit natürlichsprachlicher Schnittstelle, das adaptive, menschenähnliche Antworten auf Nutzereingaben gibt und soziale Bedürfnisse eines Nutzers erfüllen kann – unter anderem, indem es anthropomorphe Züge zeigt und eine Beziehung über mehrere Interaktionen hinweg aufrechterhalten kann. Die Pflichten treffen den Betreiber (operator), also jeden, der Nutzern in Kalifornien eine Companion-Chatbot-Plattform zugänglich macht. Dieser Betreiberbegriff ist nicht mit dem „Betreiber“ der KI-Verordnung zu verwechseln, der dort den Verwender (deployer) eines KI-Systems bezeichnet.

Ausgenommen sind drei Arten von Bots:

• Bots, die ausschließlich für Kundenservice, betriebliche Zwecke eines Unternehmens, Produktivität und Analyse von Quelleninformationen, interne Recherche oder technischen Support eingesetzt werden;
• Bots als Bestandteil eines Videospiels, deren Antworten auf das Spiel beschränkt sind und die weder über psychische Gesundheit, Selbstverletzung oder sexuell explizite Handlungen sprechen noch einen Dialog über spielfremde Themen führen können;
• Eigenständige Verbrauchergeräte, die als Lautsprecher und sprachgesteuerter virtueller Assistent dienen und weder eine Beziehung über mehrere Interaktionen aufrechterhalten noch Ausgaben erzeugen, die voraussichtlich emotionale Reaktionen hervorrufen.

Eine natürlichsprachliche Schnittstelle fällt also nicht schon deshalb unter das Gesetz, weil eine Marketingseite sie Companion, Assistent oder Chatbot nennt. Lesen Sie Definition und Ausnahmen stets gemeinsam im Gesetzestext.

Diese Unterscheidung ist vor allem bei Hybridprodukten wichtig. Eine App kann zugleich einen Support-Bot, einen Schreibassistenten und einen optionalen Beziehungsmodus enthalten. Bewerten Sie jede Oberfläche einzeln. Ein Etikett auf Produktebene wie „KI-App“ ist zu grob, um festzustellen, welche Funktionen unter die gesetzliche Definition fallen.

Ein Scoping-Raster mit sechs Prüffragen und drei Zuständen

Für eine erste Einordnung eignen sich sechs Prüffragen, die jeweils mit `ja`, `nein` oder `unbekannt` beantwortet werden. Sechs Fragen mal drei mögliche Zustände ergeben 18 ausdrücklich geführte Statusfelder:

1. Hat die Oberfläche eine natürlichsprachliche Schnittstelle, die adaptive, menschenähnliche Antworten erzeugt? 2. Kann sie soziale Bedürfnisse des Nutzers erfüllen, etwa durch anthropomorphe Züge? 3. Kann sie eine Beziehung über mehrere Interaktionen hinweg aufrechterhalten? 4. Wird die Plattform Nutzern in Kalifornien zugänglich gemacht? 5. Würde eine vernünftige Person im Gespräch mit ihr zu der Annahme verleitet, mit einem Menschen zu sprechen? 6. Weiß der Betreiber, dass ein Nutzer minderjährig ist?

Die ersten drei Fragen prüfen die Definition des Companion-Chatbots; klären Sie vor ihrer Beantwortung die drei Ausnahmen. Die letzten drei steuern die möglicherweise anwendbaren Kontrollen: Frage 4 zeigt, ob Sie in Kalifornien als Betreiber handeln, Frage 5 löst die allgemeine Offenlegung aus, Frage 6 die Pflichten gegenüber Minderjährigen. Das Suizidpräventionsprotokoll und der Eignungshinweis (siehe unten) gelten für jeden Betreiber, unabhängig von den Fragen 5 und 6. Das Raster ist ein operatives Triage-Werkzeug und ersetzt nicht das Gesetz. Ein `unbekannt` sollte zu einer Nachweisanfrage oder einer Frage an qualifizierten Rechtsbeistand führen – nicht automatisch zu dem Ergebnis, dass die Oberfläche nicht erfasst ist.

Was das Gesetz von erfassten Betreibern verlangt

Offenlegung als KI und Erinnerungen für Minderjährige

Würde eine vernünftige Person im Gespräch mit einem Companion-Chatbot zu der Annahme verleitet, mit einem Menschen zu interagieren, muss der Betreiber klar und deutlich erkennbar darauf hinweisen, dass der Companion-Chatbot künstlich erzeugt und kein Mensch ist (§ 22602(a) BPC).

Gegenüber Nutzern, von denen der Betreiber weiß, dass sie minderjährig sind, kommen nach § 22602(c) BPC drei Pflichten hinzu – unabhängig von diesem Maßstab:

• Der Betreiber muss offenlegen, dass der Nutzer mit künstlicher Intelligenz interagiert.
• Er muss standardmäßig mindestens alle drei Stunden fortlaufender Interaktion einen klar und deutlich erkennbaren Hinweis anzeigen, der an eine Pause erinnert und darauf hinweist, dass der Companion-Chatbot künstlich erzeugt und kein Mensch ist.
• Er muss angemessene Maßnahmen ergreifen, damit der Companion-Chatbot kein visuelles Material mit sexuell expliziten Handlungen erzeugt und dem Minderjährigen nicht direkt sagt, er solle sich an sexuell expliziten Handlungen beteiligen.

Unabhängig davon verlangt § 22604 BPC von jedem Betreiber einen Hinweis in der App, im Browser oder in jedem anderen Zugangsformat, dass Companion-Chatbots für manche Minderjährige möglicherweise nicht geeignet sind. Dieser Hinweis gilt nicht nur gegenüber bekannten Minderjährigen.

Für die Umsetzung sollten Ereigniszeitpunkt, Sitzungskennung, Produkt-Release und angezeigte Hinweisversion gespeichert werden. Ein boolesches Feld „Hinweis aktiviert“ belegt nicht, ob die Drei-Stunden-Erinnerung in einer langen Sitzung zum erforderlichen Zeitpunkt tatsächlich erschienen ist.

Suizidpräventionsprotokoll und sexuell explizite Inhalte

Ein Betreiber muss verhindern, dass ein Companion-Chatbot auf seiner Plattform mit Nutzern interagiert, solange er kein Protokoll unterhält, das die Ausgabe von Inhalten zu Suizidgedanken, Suizid oder Selbstverletzung an den Nutzer unterbinden soll. Dazu gehört unter anderem ein Hinweis, der den Nutzer an Krisendienste verweist, etwa an eine Suizid-Hotline oder eine Krisen-Textline, wenn er Suizidgedanken, Suizid oder Selbstverletzung äußert. Außerdem muss der Betreiber Einzelheiten dieses Protokolls auf seiner Website veröffentlichen (§ 22602(b) BPC). Der oben beschriebene Schutz Minderjähriger vor sexuell expliziten Inhalten ist ein eigener Kontrollpfad. Eine allgemeine Moderationsrichtlinie belegt nicht schon durch ihre Existenz, dass einer der beiden Pfade wie gefordert funktioniert.

Ein sinnvoller Test trennt Erkennung, Auswahl der Reaktion und Darstellung. Halten Sie fest, ob das Signal erkannt wurde, welche Protokollversion lief, ob die Verweisinformationen angezeigt wurden und was beim Ausfall einer Abhängigkeit geschah. Grenzfälle sollten Rechtsbeistand und fachlich qualifizierte Sicherheitsexperten prüfen; eine Stichwortliste ist kein rechtliches oder klinisches Urteilssystem.

Jährlicher Bericht und zivilrechtliche Durchsetzung

Ab dem 1. Juli 2027 müssen Betreiber dem Office of Suicide Prevention jährlich über drei Punkte berichten (§ 22603 BPC):

• Die Zahl der Hinweise mit Verweis an Krisendienste, die sie im vorangegangenen Kalenderjahr ausgegeben haben;
• Die Protokolle, mit denen Suizidgedanken von Nutzern erkannt, entfernt und beantwortet werden;
• Die Protokolle, die Antworten des Companion-Chatbots über Suizidgedanken oder suizidale Handlungen gegenüber dem Nutzer unterbinden sollen.

Der Bericht darf nur diese Angaben enthalten und keine Kennungen oder personenbezogenen Daten von Nutzern; das Office veröffentlicht Daten aus den Berichten auf seiner Website. Zudem müssen Betreiber evidenzbasierte Methoden zur Messung von Suizidgedanken einsetzen.

Wer durch einen Verstoß eine tatsächliche Beeinträchtigung erleidet (injury in fact), kann Zivilklage erheben – auf eine gerichtliche Anordnung (injunctive relief), auf Schadensersatz in Höhe des tatsächlichen Schadens oder von 1.000 US-Dollar je Verstoß, je nachdem, welcher Betrag höher ist, sowie auf Erstattung angemessener Anwaltsgebühren und Kosten (§ 22605 BPC). Wie Verstöße zu zählen sind, sagt das Gesetz nicht. Wie ein Fehler zu bewerten wäre, der sich über viele Sitzungen wiederholt, ist daher eine Frage für den Rechtsbeistand und keine Schätzung für das Engineering. Die Pflichten des Kapitels gelten zusätzlich zu anderen Rechtsvorschriften und entbinden nicht von deren Pflichten (§ 22606 BPC).

Eine Sekundärquelle hilft, Themen für den Rechtsbeistand zu erkennen, darf aber nicht zur Kontrollspezifikation werden. So gliedert etwa Skaddens Überblick das Gesetz nach Definition, Anwendungsbereich, Offenlegung, Sicherheitsprotokollen, jährlichem Bericht und Durchsetzung – genau die Kategorien, die auf den Gesetzeswortlaut zurückgeführt werden sollten.

Den Gesetzestext in prüfbare Produktkontrollen übersetzen

Die folgende Matrix trennt den zu prüfenden gesetzlichen Punkt vom empfohlenen operativen Nachweis:

Der typische Fehler ist eine Lücke zwischen Richtlinie und Produkt: Das Rechtsmemo sagt, ein Hinweis oder Verweis existiere, während der mobile Client, der Reconnect-Ablauf oder eine neu eingeführte Modellroute ihn umgeht. Jede Zeile braucht deshalb eine verantwortliche Person, einen Nachweis und einen durchgeführten Test.

Ein Arbeitsplan für Oktober und November 2026

Ein Kontroll-Sprint über zehn Arbeitstage

Ein Team, das im Oktober beginnt, kann folgende Abfolge nutzen, ohne eine gesetzliche Frist zu erfinden:

• Tage 1–2: Jede Konversationsoberfläche, jede Modellroute, jeden Client und jedes Alterssignal erfassen.
• Tage 3–4: Die 18 Statusfelder des Scoping-Rasters ausfüllen und jede Antwort mit Nachweisen belegen.
• Tag 5: Offene Fragen zu Definition, Ausnahmen und Nutzerstatus an den Rechtsbeistand geben.
• Tage 6–7: Aktuelle Hinweise, Timer und Sicherheitspfade mit dem Gesetzestext abgleichen.
• Tage 8–9: Tests für neue Sitzung, lange Sitzung, Reconnect und Ausfallmodus durchführen.
• Tag 10: Verantwortliche für die Behebung benennen und die freigegebenen Ergebnisse mit der Release-Kennung ablegen.

Ein Hinweis ohne Timer, Testergebnis und Release-Kennung ist bloßer Text, keine Kontrolle.

Den November für die Änderungserkennung nutzen

Nach dem ersten Sprint folgt die Prüfung je Release. Öffnen Sie die Bewertung erneut, wenn eine Funktion beginnt, sich an frühere Gespräche zu erinnern, wenn beziehungsorientierte Prompts hinzukommen, sich die Altersbehandlung ändert, Sprache oder Bilder eingeführt werden, eine Modellroute ersetzt wird oder sich die Sitzungspersistenz ändert. Diese Auslöser sind operative Empfehlungen; sie sollen Änderungen auffangen, die die frühere rechtliche Einschätzung berühren könnten.

Proben Sie außerdem den Berichtsablauf für 2027 mit synthetischen oder entsprechend kontrollierten Testdaten. Stellen Sie sicher, dass jedes geforderte Feld eine Quelle, eine verantwortliche Person und eine reproduzierbare Berechnung hat. Der Bericht selbst darf keine Kennungen oder personenbezogenen Daten von Nutzern enthalten; würde ein Feld die Aufbewahrung sensibler Gesprächsinhalte erfordern, beziehen Sie Datenschutz und Rechtsabteilung ein, bevor Sie Erhebung oder Speicherung ändern.

Für jedes Release einen Datensatz mit 15 Feldern führen

Ein kompakter Nachweisdatensatz macht die Einordnung und die Testergebnisse nachvollziehbar. Nutzen Sie diese 15 Felder für jede erfasste oder möglicherweise erfasste Oberfläche:

1. Oberflächenkennung 2. Release- oder Build-Hash 3. Verantwortliche Person 4. Verfügbarkeit in Kalifornien 5. Ergebnis der Scoping-Prüfung 6. Begründung zu Definition oder Ausnahme 7. Version der Rechtsquelle und Prüfdatum 8. Altersstatus des Nutzers (Eingabe) 9. Freigegebener Offenlegungstext, einschließlich Eignungshinweis 10. Platzierung der Offenlegung 11. Testergebnis zur KI-Offenlegung 12. Testergebnis zur Drei-Stunden-Erinnerung 13. Version des Sicherheitsprotokolls 14. Testergebnis zu Verweis und Ausfallpfad 15. Zeitstempel der Freigabe

Dieser Datensatz bescheinigt keine Compliance. Er zeigt, zu welchem Schluss das Team gekommen ist, welche Quelle es herangezogen und was es für ein bestimmtes Release getestet hat. Der Checker von DiscloseKit ist auf Artikel 50 der KI-Verordnung ausgelegt, nicht auf SB 243. Das Hinweis-Widget, die Live-Verifizierung und das hash-verkettete Nachweisprotokoll können dennoch helfen, einen Hinweis anzuzeigen, zu prüfen, ob er live ist, und ihn zu dokumentieren. Strittige Fragen zum Anwendungsbereich klärt aber keine Software, und sie garantiert auch kein Prüfungsergebnis.

Kalifornien und andere Rechtsordnungen getrennt behandeln

Nachweise wiederverwenden, nicht rechtliche Schlussfolgerungen

Ein Team, das mehrere Regionen bedient, kann Oberflächeninventar, Hinweis-Screenshots, Test-Fixtures und Release-Kennungen wiederverwenden. Die rechtliche Analyse sollte es jedoch für jede Rechtsordnung gesondert führen. Eine Einschätzung zu kalifornischen Companion-Chatbots taugt nicht als Einschätzung für jedes andere KI-Transparenzregime.

Die KI-Verordnung der EU zeigt, warum. Nach ihrem Artikel 50 Abs. 1 müssen Anbieter KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren und entwickeln, dass die betreffenden Personen informiert werden, dass sie mit einem KI-System interagieren – es sei denn, dies ist für eine angemessen informierte, aufmerksame und verständige Person offensichtlich. Die Information muss spätestens bei der ersten Interaktion erfolgen; die Pflicht gilt seit dem 2. August 2026. SB 243 verpflichtet dagegen den Betreiber einer Companion-Chatbot-Plattform, knüpft an die Irreführung einer vernünftigen Person an und verlangt für bekannte Minderjährige zusätzlich eine Erinnerung mindestens alle drei Stunden. Derselbe Chat-Hinweis kann bei beidem helfen, jede Pflicht braucht aber ihre eigene Analyse. Zur EU-Seite lesen Sie unseren Beitrag zur Hinweispflicht für Chatbots nach Artikel 50 der KI-Verordnung und den Überblick, was bei der KI-Offenlegungspflicht 2026 jetzt gilt.

Die Trennung klärt auch Zuständigkeiten. Produkt und Engineering pflegen gemeinsame technische Kontrollen, während Rechtsprüfer diese Kontrollen dem jeweils anwendbaren Text zuordnen. Ein Hinweis kann mehrere Anforderungen stützen, doch dadurch werden die Anforderungen nicht austauschbar.

Vier frühe Warnsignale

Eine Umsetzungslücke ist wahrscheinlich, wenn eines dieser Signale zutrifft:

• Die Scoping-Entscheidung existiert nur auf Unternehmensebene, nicht je Konversationsoberfläche.
• Wiederkehrende Hinweise werden nur in einer neuen Sitzung getestet.
• Sicherheitstests decken die erwartete Formulierung ab, aber nicht mehrdeutige Sprache oder den Ausfall von Abhängigkeiten.
• Eine Änderung an Modell, Gedächtnis oder Client kann ausgeliefert werden, ohne dass die dokumentierte Bewertung neu geöffnet wird.

Jedes dieser Signale lässt sich erkennen, bevor es zu einer Beschwerde oder zur Berichtsprobe kommt. Nehmen Sie es in die Release-Prüfung auf, statt sich auf eine jährliche Richtlinienprüfung zu verlassen.

FAQ

Worauf bezieht sich „SB 243 Padilla“?

Auf den kalifornischen Gesetzentwurf Senate Bill 243 der Sitzungsperiode 2025–2026, eingebracht von Senator Steve Padilla; die offizielle Statusseite nennt die Senatoren Padilla und Becker als Hauptautoren. Verabschiedet wurde er als Chapter 677, Statutes of 2025. Maßgeblich ist der endgültige Text auf der offiziellen kalifornischen Gesetzesseite, denn Zusammenfassungen beschreiben mitunter frühere Entwurfsfassungen.

Ist CA SB 53 dasselbe wie CA SB 243?

Nein. SB 53 (Chapter 138, Statutes of 2025) ist ein eigenständiges Gesetz über große Entwickler von KI-Modellen; SB 243 betrifft Companion-Chatbot-Plattformen. Dieser Artikel behandelt nur SB 243. Prüfen Sie etwaige Pflichten aus SB 53 anhand seines eigenen Gesetzestextes, statt Ergebnisse aus SB 243 zu übertragen.

Erfasst das kalifornische Chatbot-Gesetz jeden Chatbot?

CA SB 243 zielt auf die gesetzliche Kategorie der Companion-Chatbots, nicht auf jede Schnittstelle, die Eingaben in Gesprächsform annimmt. Wenden Sie Definition und Ausnahmen des Gesetzes auf jede Produktoberfläche an und geben Sie ungeklärte Einstufungen an qualifizierten Rechtsbeistand.

Sind CA SB 942, AB 1064 und AB 853 Teil von SB 243?

Nein. SB 942 ist der California AI Transparency Act (Chapter 291, Statutes of 2024); AB 853 (Chapter 674, Statutes of 2025) ändert ihn. AB 1064, der Leading Ethical AI Development (LEAD) for Kids Act, scheiterte am Veto des Gouverneurs vom 13. Oktober 2025 und ist kein geltendes Recht. Keiner dieser Entwürfe ändert das Kapitel aus SB 243. Beginnen Sie mit dem offiziellen Text von SB 243 und prüfen Sie jedes weitere für das Produkt relevante Gesetz anhand seines eigenen Textes.