Einleitung
Die Europäische Union hat mit ihrem KI-Gesetz einen umfassenden Rahmen zur Regulierung von künstlicher Intelligenz innerhalb der EU eingeführt. Diese Verordnung zielt darauf ab, die Risiken algorithmischer Voreingenommenheit zu mindern und die öffentliche Sicherheit zu gewährleisten. Für kleine und mittlere Unternehmen (KMUs), die KI-gestützte Technologien wie Chatbots einsetzen, bringt diese Verordnung sowohl Herausforderungen als auch Chancen mit sich.
Überblick über das EU KI-Gesetz
Die Verordnung über künstliche Intelligenz wurde nach dem ersten Vorschlag der Europäischen Kommission im April 2021 vom Europäischen Parlament verabschiedet. Sie wurde im Juli 2024 im Amtsblatt der Europäischen Union veröffentlicht und tritt im August 2024 in Kraft. Die meisten Bestimmungen werden jedoch erst zwei Jahre später anwendbar sein, wobei für einzelne Bestimmungen unterschiedliche Fristen gelten. Die Verordnung legt Verpflichtungen für Unternehmen fest, die KI-Systeme in der EU entwickeln oder nutzen, und setzt bei Nichteinhaltung erhebliche Geldstrafen fest.
Kategorien des KI-Risikos
Das Gesetz kategorisiert KI-Systeme nach ihrem Risikoniveau:
- Minimales Risiko:
Systeme mit vernachlässigbaren Bedrohungen, wie Spam-Filter. - Begrenztes Risiko:
Systeme wie Chatbots, die Transparenz und Nutzerbewusstsein erfordern. - Hohes Risiko:
Systeme mit signifikantem Einfluss auf Sicherheit und Rechte, wie Kreditentscheidungen. - Unzulässiges Risiko:
Verbotene Praktiken, die schwere Bedrohungen darstellen, wie soziale Bewertungen. - Allgemeine Künstliche Intelligenz (GPAI):
Systeme mit erheblichem Einfluss, die strenge Sicherheitsmaßnahmen erfordern.
Verantwortlichkeiten von Entwicklern und Anbietern
Entwickler und Anbieter von KI tragen die Hauptverantwortung für die Einhaltung der Vorschriften. Für General Purpose AI (GPAI) gelten noch strengere Anforderungen aufgrund ihres breiteren Einflusses.
Strafen bei Nichteinhaltung
Die Strafen bei Nichteinhaltung sind erheblich:
- 7% des weltweiten Umsatzes oder 35 Millionen Euro für verbotene KI-Systeme.
- 3% des weltweiten Umsatzes oder 15 Millionen Euro für Verstöße bei Hochrisikosystemen.
- 1% des weltweiten Umsatzes oder 7,5 Millionen Euro für falsche Informationen.
Ausnahmen und Fristverlängerungen
Für bestehende GPAI-Systeme gibt es eine zusätzliche Frist von 24 Monaten zur Einhaltung der Vorschriften. Hochrisikosysteme können bis zu einer signifikanten Änderung von den Anforderungen befreit sein. Auch frei verfügbare und quelloffene Systeme, die nicht als hochriskant oder verboten gelten, können ausgenommen werden.
Auswirkungen auf KMUs und ihre Chatbots
Der EU AI Act hat mehrere spezifische Auswirkungen auf kleine Unternehmen, die Chatbots einsetzen:
Compliance-Anforderungen
Chatbots gehören zu den Anwendungen, die eher geringe Risiken mit sich bringen. Dennoch müssen kleine Unternehmen sicherstellen, dass ihre Chatbots transparent sind und Nutzer darüber informieren, dass sie auf KI basieren. Dies ist besonders wichtig, um den Anforderungen des EU KI-Gesetzes zu entsprechen. Angemessene Markierungen und Vorschriften sind erforderlich, um die Nutzeraufklärung zu gewährleisten und die gesetzlichen Bestimmungen einzuhalten.
Risikomanagement
Obwohl Chatbots als Anwendungen mit geringem Risiko eingestuft werden, sollten KMUs dennoch bestimmte Risikomanagementpraktiken implementieren, um die Integrität der bereitgestellten Informationen zu gewährleisten und die Einhaltung der EU KI-Verordnung sicherzustellen. Dies umfasst die Überwachung der Funktionsweise des Chatbots, um diskriminierende oder irreführende Informationen zu vermeiden.
Was mit ChatBot4You bereits heute umgesetzt werden kann:
- Hinweis im Chatfenster einblenden, bevor der Chat startet:
Bevor ein Nutzer den Chat beginnt, kann ein klarer und sichtbarer Hinweis eingeblendet werden, der erklärt, dass es sich bei dem Chatbot um ein KI-gestütztes System handelt. Dieser Hinweis stellt sicher, dass Nutzer von Anfang an über die Natur des Systems informiert sind. - Hinweis in der Begrüßungsnachricht einblenden:
Bei der ersten Interaktion kann die Begrüßungsnachricht des Chatbots automatisch eine Erklärung enthalten, die auf die Nutzung von KI hinweist. Diese Nachricht kann etwa lauten: "Willkommen! Ich bin ein KI-gestützter Chatbot, hier um Ihnen zu helfen. Wie kann ich Ihnen behilflich sein?" Dadurch wird sichergestellt, dass jeder neue Nutzer sofort über die KI-Natur des Chatbots informiert ist. - Antworten, die von ChatGPT kommen, werden automatisch gekennzeichnet:
Antworten, die optional mit ChatGPT erstellt werden, werden im Chat deutlich als solche gekennzeichnet. Zudem werden diese Antworten automatisch im Backend protokolliert, sodass Administratoren volle Kontrolle über die Ausgaben haben. Diese Transparenz hilft dabei, potenzielle Probleme schnell zu identifizieren und zu beheben. - Vordefinierte Antworten für eigene KI:
Antworten, die über die eigene KI von ChatBot4You ausgegeben werden, sind vordefiniert und werden vom Kunden selbst erstellt. Dies gewährleistet, dass die Informationen korrekt und kontrolliert sind. Bei ordnungsgemäßer Handhabung sollten hier keine Probleme auftreten. - Vermeidung von Halluzinationen durch RAG-Technologien:
Dank der Implementierung von Retrieval-Augmented Generation (RAG) Technologien werden Halluzinationen so gut wie möglich vermieden. RAG stellt sicher, dass Antworten nur auf Basis der eigenen Daten des Kunden, per Webscraping oder in der Knowledgebase erstellt werden. Dies minimiert das Risiko von falschen oder irreführenden Informationen.
Diese Maßnahmen helfen nicht nur dabei, den gesetzlichen Anforderungen gerecht zu werden, sondern fördern auch das Vertrauen der Nutzer in die Technologie. Indem die Plattform ChatBot4You solche Funktionen integriert, können KMUs sicherstellen, dass ihre Chatbots die Vorschriften des EU KI-Gesetzes einhalten und gleichzeitig eine positive Nutzererfahrung bieten.
Prozess zur Sicherstellung des Risikomanagements:
- Definierung klarer Richtlinien für vordefinierte Antworten:
Kunden sollten klare Richtlinien und Standards für die Erstellung vordefinierter Antworten festlegen, um Konsistenz und Genauigkeit zu gewährleisten. - Regelmäßige Überprüfung und Aktualisierung der Antworten:
Administratoren sollten regelmäßig die vordefinierten Antworten sowie die von ChatGPT generierten Antworten überprüfen und bei Bedarf aktualisieren, um sicherzustellen, dass alle Informationen korrekt und aktuell sind. - Protokollierung und Monitoring:
Alle von ChatGPT generierten Antworten werden automatisch im Backend protokolliert, sodass Administratoren diese überwachen und bei Bedarf anpassen können. Administratoren können die Antworten zwar nicht direkt ändern, aber sie können die Antworten in eigenen Fragengruppen übernehmen und dabei anpassen oder den Datenbestand der Knowledgebase entsprechend aktualisieren, sodass ChatGPT zukünftig korrekte Antworten liefern kann. Dieses Monitoring hilft dabei, potenzielle Probleme frühzeitig zu erkennen und zu beheben - Schulung und Sensibilisierung:
KMUs sollten ihre Mitarbeiter regelmäßig schulen und sensibilisieren, um sicherzustellen, dass alle Beteiligten die Bedeutung von Risikomanagement verstehen und die notwendigen Maßnahmen ergreifen. - Feedback-Schleifen integrieren:
Nutzerfeedback sollte regelmäßig eingeholt und analysiert werden, um potenzielle Probleme oder Bedenken hinsichtlich der KI-generierten Antworten zu identifizieren und zu adressieren.
EU AI Act Compliance Checker
Um Unternehmen bei der Einhaltung der neuen Vorschriften zu unterstützen, hat die EU den AI Act Compliance Checker (https://artificialintelligenceact.eu/de/bewertung/eu-ai-act-compliance-checker/) eingeführt. Dieses interaktive Tool hilft Unternehmen festzustellen, ob ihr KI-System von der Verordnung betroffen ist. Darüber hinaus wird empfohlen, den EU AI Act Newsletter zu abonnieren, um über die Verpflichtungen im Rahmen des EU AI Act auf dem Laufenden zu bleiben. Es ist auch ratsam, sich rechtlich beraten zu lassen und die nationalen Richtlinien zu befolgen. Weitere Informationen über die Durchsetzung des EU-AI-Gesetzes in den einzelnen Mitgliedstaaten werden voraussichtlich im Jahr 2024 zur Verfügung gestellt.
Fazit
Insgesamt bietet der EU AI Act sowohl Herausforderungen als auch Chancen für KMUs im Einsatz von Chatbots. Während die Compliance-Anforderungen zusätzlichen Aufwand bedeuten können, können Unternehmen durch verantwortungsvolle KI-Nutzung und Transparenz das Vertrauen ihrer Kunden gewinnen und sich erfolgreich im Markt positionieren. Die enge Beachtung der neuen Vorschriften und eine proaktive Anpassung an die regulatorischen Anforderungen werden entscheidend für den langfristigen Erfolg und die Nachhaltigkeit der KI-Initiativen kleiner Unternehmen sein.
ChatBot4You bietet bereits heute viele Funktionen, die zur Einhaltung der vom AI Act geforderten Punkte beitragen. Dazu gehören:
Protokollierung und Kennzeichnung von ChatGPT-Antworten:
Antworten, die optional mit ChatGPT erstellt werden, werden im Chat deutlich als solche gekennzeichnet. Zudem werden diese Antworten automatisch im Backend protokolliert, sodass Administratoren volle Kontrolle über die Ausgaben haben. Diese Transparenz hilft dabei, potenzielle Probleme schnell zu identifizieren und zu beheben.
Vermeidung von Halluzinationen durch RAG-Technologien:
Dank der Implementierung von Retrieval-Augmented Generation (RAG) Technologien werden Halluzinationen so gut wie möglich vermieden. RAG stellt sicher, dass Antworten nur auf Basis der eigenen Daten des Kunden, per Webscraping oder in der Knowledgebase erstellt werden. Dies minimiert das Risiko von falschen oder irreführenden Informationen.
Konfigurierbare GPT-Integration:
Die GPT-Integration bei ChatBot4You ist so konfigurierbar, dass sie Antworten nur anhand der eigenen Knowledgebase des Kunden generiert. Freie GPT-Anfragen, die zu unerwünschten oder irrelevanten Antworten führen könnten, werden vermieden. Dies stellt sicher, dass alle Antworten kontextbezogen und relevant für das jeweilige Unternehmen sind, was die Genauigkeit und Vertrauenswürdigkeit der Informationen erhöht.
Durch diese integrierten Funktionen unterstützt ChatBot4You KMUs dabei, die neuen gesetzlichen Anforderungen effizient zu erfüllen und gleichzeitig die Qualität und Integrität ihrer Chatbots zu gewährleisten.
Für weitere Informationen und spezifische Leitlinien zur Umsetzung der neuen Vorschriften können Sie sich auf https://artificialintelligenceact.eu/ai-act-explorer/ informieren.