EU-Verordnung zur künstlichen Intelligenz: Chancen und Herausforderungen für KMUs und ihre Chatbots

Die Europäische Union hat mit dem AI Act eine umfassende Regulierung für künstliche Intelligenz eingeführt. Dieses Rahmenwerk zielt darauf ab, Risiken algorithmischer Verzerrungen zu reduzieren und die öffentliche Sicherheit zu gewährleisten. Für kleine und mittlere Unternehmen (KMUs), die KI-Technologien wie Chatbots einsetzen, bringt die Verordnung sowohl Herausforderungen als auch Chancen mit sich.

Überblick über das EU KI-Gesetz

Die KI-Verordnung wurde vom Europäischen Parlament nach dem Vorschlag der Europäischen Kommission vom April 2021 verabschiedet. Im Juli 2024 im Amtsblatt der EU veröffentlicht, tritt sie im August 2024 in Kraft. Die meisten Bestimmungen werden zwei Jahre später anwendbar, mit gestaffelten Fristen für verschiedene Anforderungen. Die Verordnung legt Pflichten für Unternehmen fest, die KI-Systeme in der EU entwickeln oder einsetzen, mit erheblichen Strafen bei Nichteinhalten.

Kategorien des KI-Risikos

Das Gesetz kategorisiert KI-Systeme nach Risikostufen:

• Minimales Risiko: Systeme mit vernachlässigbaren Bedrohungen, wie z.B. Spam-Filter.
• Begrenztes Risiko: Systeme wie Chatbots, die Transparenz und Nutzeraufklärung erfordern.
• Hohes Risiko: Systeme, die Sicherheit und Rechte erheblich beeinflussen, z.B. Kreditentscheidungen.
• Unzulässiges Risiko: Verbotene Praktiken, die ernsthafte Bedrohungen darstellen, wie Social Scoring.
• Allgemeine Künstliche Intelligenz (GPAI): Systeme mit erheblicher Auswirkung, die strenge Sicherheitsmaßnahmen erfordern.

Verantwortlichkeiten von Entwicklern und Anbietern

Entwickler und KI-Anbieter tragen die Hauptverantwortung für die Einhaltung der Vorschriften. Allgemeine KI-Systeme (GPAI) unterliegen aufgrund ihrer breiteren Auswirkungen strengeren Anforderungen.

Strafen bei Nichteinhaltung

Die Strafen bei Verstößen sind erheblich:

• 7 % des weltweiten Umsatzes oder 35 Millionen Euro für verbotene KI-Systeme
• 3 % des weltweiten Umsatzes oder 15 Millionen Euro für Verstöße bei Hochrisiko-Systemen
• 1 % des weltweiten Umsatzes oder 7,5 Millionen Euro für falsche Angaben

Auswirkungen auf KMUs und ihre Chatbots

Compliance-Anforderungen

Chatbots stellen in der Regel Anwendungen mit geringerem Risiko dar. Dennoch müssen Unternehmen Transparenz sicherstellen und Nutzer darüber informieren, dass die Systeme KI-basiert sind. Eine klare Kennzeichnung ist für die Nutzeraufklärung und die Einhaltung gesetzlicher Vorschriften erforderlich.

Risikomanagement

Trotz der Einstufung als geringes Risiko sollten KMUs Risikomanagement-Praktiken implementieren, die die Integrität der Informationen und die Einhaltung der EU-KI-Verordnung sicherstellen. Dazu gehört die Überwachung der Chatbot-Funktionalität, um diskriminierende oder irreführende Informationen zu vermeiden.

Was mit ChatBot4You bereits heute umgesetzt werden kann

1. Hinweis im Chatfenster einblenden: Vor Beginn des Chats wird ein klarer Hinweis angezeigt, der die KI-basierte Natur des Systems erklärt und Nutzer von Anfang an informiert.
2. Hinweis in der Begrüßungsnachricht: Die erste Interaktion enthält eine Begrüßungsnachricht, die die KI-Nutzung erklärt: „Willkommen! Ich bin ein KI-gestützter Chatbot, hier um Ihnen zu helfen.“
3. Automatische Kennzeichnung von ChatGPT-Antworten: Von ChatGPT generierte Antworten werden im Chat deutlich markiert und automatisch im Backend protokolliert, was Administratoren Kontrolle gibt und die Identifizierung von Problemen ermöglicht.
4. Vordefinierte Antworten für eigene KI: Antworten der eigenen KI von ChatBot4You sind vordefiniert und vom Kunden erstellt, was korrekte und kontrollierte Informationen sicherstellt.
5. Vermeidung von Halluzinationen durch RAG-Technologien: Retrieval-Augmented Generation minimiert Halluzinationen, indem Antworten auf Kundendaten, Web-Scraping oder Wissensbasen basieren und so das Risiko falscher Informationen reduzieren.

Prozess zur Sicherstellung des Risikomanagements

1. Definierung klarer Richtlinien für vordefinierte Antworten: Standards festlegen, die Konsistenz und Genauigkeit bei vordefinierten Antworten sicherstellen.
2. Regelmäßige Überprüfung und Aktualisierung der Antworten: Administratoren überprüfen regelmäßig die Antworten und aktualisieren Informationen, um Genauigkeit und Aktualität zu gewährleisten.
3. Protokollierung und Monitoring: Alle von ChatGPT generierten Antworten werden automatisch protokolliert, sodass Administratoren sie überwachen und anpassen können.
4. Schulung und Sensibilisierung: Unternehmen sollten Mitarbeiter regelmäßig schulen, um die Bedeutung des Risikomanagements zu verstehen und notwendige Maßnahmen umzusetzen.
5. Feedback-Schleifen integrieren: Regelmäßige Sammlung und Analyse von Nutzerfeedback, um potenzielle Probleme bei KI-generierten Antworten zu identifizieren.

Fazit

Der EU AI Act stellt sowohl Herausforderungen als auch Chancen für KMUs dar, die Chatbots einsetzen. Während die Compliance zusätzlichen Aufwand erfordert, bauen verantwortungsvoller KI-Einsatz und Transparenz Kundenvertrauen auf und stärken die Marktpositionierung. Die aufmerksame Beobachtung neuer Vorschriften und die proaktive Anpassung an Anforderungen sind entscheidend für den langfristigen Erfolg und die Nachhaltigkeit von KI-Initiativen.

ChatBot4You-Funktionen zur Compliance

• Protokollierung und Kennzeichnung von ChatGPT-Antworten: Von ChatGPT erstellte Antworten werden deutlich markiert und automatisch protokolliert, was Administratoren Kontrolle gibt und eine schnelle Problemerkennung ermöglicht.
• Vermeidung von Halluzinationen durch RAG-Technologien: RAG stellt sicher, dass Antworten nur auf Kundendaten, Web-Scraping oder Wissensbasis-Inhalten basieren und so das Risiko falscher Informationen minimiert wird.
• Konfigurierbare GPT-Integration: Die GPT-Integration generiert Antworten ausschließlich aus Kunden-Wissensbasen und vermeidet unerwünschte oder irrelevante Antworten. Dies stellt kontextgerechte, relevante Antworten sicher und erhöht die Genauigkeit und Vertrauenswürdigkeit der Informationen.