Verantwortungsvolle Forschung, verantwortungsvolle KI
Weltweit anerkannte Forschungspraktiken, wie z. B. Zitationsanalyse, Triangulation, Reproduzierbarkeit, systematische Überprüfung und ethische Untersuchungskonzepte, sind für den Aufbau von Vertrauen in die Forschung unerlässlich. Bibliothekar:innen setzen sich seit langer Zeit schon für diese Praktiken ein. Unser Ziel bei EBSCO ist es, dieses Vertrauen innerhalb der Forschungscommunity aufrechtzuerhalten und sicherzustellen, dass KI-Technologien den Recherche- und Forschungsprozess verbessern, sei es für persönliche oder wissenschaftliche Zwecke.
Auf Grundlage der Hinweise und Unterstützung unserer Kund:innen, Partner, Aufsichtsstellen und Kontrollgremien hat EBSCO die folgenden KI-Grundsätze entwickelt und hält diese ein.
Qualität
EBSCO stellt die Genauigkeit seiner KI sicher, indem sie sich durch Retrieval-Augmented Generation (RAG), Knowledge-Graphs und eine strenge Prüfung durch Bibliothekar:innen und Fachexpert:innen (Subject Matter Experts; SMEs) auf maßgebliche Daten stützt. Wir verlassen uns nicht auf Volltext-Training ohne die Zustimmung der Urheber:innen, da dies nicht im Einklang mit verantwortungsvollen KI-Praktiken steht.
Studien haben gezeigt, dass die Verknüpfung eines Large Language Models (LLM) mit verknüpften Daten in Form eines Knowledge-Graphs die Genauigkeit um 54 % erhöht und die Wahrscheinlichkeit von Halluzinationen bei KI-Antworten verringert. EBSCOs Unified Subject Index (USI) verknüpft alle wissenschaftlichen kontrollierten Vokabularien in einem Linked-Data-Knowledge-Graph und der EBSCO Scholarly Graph (ESG) verbindet über 100 Millionen wissenschaftliche Artikel mit den zugehörigen Metadaten, bibliografischen Informationen sowie Autor:innen- und Institutionsprofilen. Milliarden führender Quellen stellen sicher, dass EBSCOs KI-Aktivitäten auf wissenschaftlich fundierten Daten beruhen, um Ungenauigkeiten zu reduzieren und die Zuverlässigkeit zu erhöhen.
Transparenz
Transparenz ist entscheidend für eine fundierte Entscheidungsfindung. EBSCO setzt sich ausdrücklich für eine klare Kennzeichnung und erklärbare KI-Funktionen ein. EBSCOs Ansatz zur KI-Transparenz umfasst Erklärungen zu:
- Ursprung, Herkunft und Zusammensetzung der Daten
- Wie Quelldaten im KI-Modell verwendet und gewichtet werden
- Dem Überprüfungsprozess der KI-Grundlagendaten, einschließlich der Beiträge von Bibliothekar:innen und Fachexpert:innen
- Der Struktur der an das KI-Modell gesendeten Prompts und die Relevanzgewichtung (ohne spezifische Prompts oder Algorithmen offenzulegen)
- Wie wir mit den Auswirkungen unserer KI auf die Umwelt umgehen.
Für EBSCO bedeutet erklärbare KI, dass wir transparent darlegen, wie KI-Funktionalitäten in unseren Produkten funktionieren. Wir bevorzugen den Einsatz von transparenten KI-Modellen, wo immer dies möglich ist, und beobachten aktiv den Stanford Transparency Index bei der Auswahl von Modellen.
Informationskompetenz
EBSCO arbeitet mit zahlreichen Bibliothekar:innen zusammen, um KI- und Informationskompetenzen zu verbessern. KI-Kompetenz kann als eine Unterkategorie der Informationskompetenz betrachtet werden. Die Ressourcen für KI-Kompetenzen helfen den Bibliothekar:innen dabei, ihre Studierenden, Forschenden und Wissenschaftler:innen bei der verantwortungsvollen Nutzung von KI anzuleiten. Dazu gehören beispielsweise die Erkennung künstlich generierter Inhalte, die Bewertung von KI-Ergebnissen und das Verständnis akzeptabler KI-Praktiken in der Forschung.
Forschende sollten sich mit folgenden Fragen auseinandersetzen:
- Wie sieht ein angemessener Einsatz von KI für die Forschung aus?
- Wie kann man sicherstellen, dass KI-generierte Inhalte keine Plagiate sind?
- Wie prüft man die Richtigkeit von KI-generierten Texten oder Bildern?
- Wie sollte KI zitiert werden und welche KI-generierten Inhalte können zitiert werden?
- Wie können unethische, falsche oder ungenaue KI-Inhalte gemeldet oder korrigiert werden?
- Welche Standards, Regeln und Vorschriften zu KI sollten Forschende kennen und beachten?
- Wie sollten Forschende das IRB beim Einsatz von KI einbeziehen?
- Welche KI-Tools sind für die Nutzung in der Forschung am besten geeignet?
- Wie kann man sicherstellen, dass die verwendete KI bzw. ihre Ergebnisse ethisch vertretbar sind und auf verlässlichen Quellen beruhen?
Informationskompetenz ist eine wichtige Schlüsselqualifikation für Forschende, um Antworten auf diese Fragen zu finden. EBSCO möchte Bibliothekar:innen bei diesen wichtigen Gesprächen unterstützen und Forschenden die Techniken der Informationskompetenz näher bringen.
Diversität, Gleichstellung und Inklusion
Gleichwertige künstliche Intelligenz setzt eine Grundlage aus vielfältigen, ethisch korrekten Daten und einen gleichberechtigten Zugang zu Inhalten voraus, unabhängig von Rechercheerfahrung, Sprache oder Fachwissen. Viele Large Language Model (LLMs) verfügen über allgemeines Wissen, haben aber Schwierigkeiten mit detaillierten, fachspezifischen Fragen, was oft zu Ungenauigkeiten oder gar inkorrekten Informationen führt. Um präzise Suchabfragen zu unterstützen, benötigen LLMs bereichsspezifische Daten und eine Überprüfung durch Fachexpert:innen.
Darüber hinaus müssen LLMs die kulturell und sprachlich vielfältigen Daten verstehen, um Inklusion und Diversität sicherzustellen. EBSCO nutzt Quellen wie die vielfältigen Inhalte der EBSCO-Datenbanken sowie den Unified Subject Index (USI), der über 280 Sprachen und Dialekte aus mehr als 100 kontrollierten Vokabularien umfasst, um den KI-Antworten weitere vielfältige, diverse und präzise Informationen hinzuzufügen. Diese Ressourcen werden nicht für das Training der KI verwendet, da dies gegen unsere verantwortungsvollen KI-Praktiken und KI-Grundsätze verstoßen würde.
Nutzerfreundlichkeit
Bei EBSCOs KI-Funktionalitäten steht die Nutzerfreundlichkeit im Vordergrund. Sie werden von den Nutzer:innen gründlich getestet, um sicherzustellen, dass sie effektiv und intuitiv nutzbar sind und den Rechercheprozess auf verantwortungsvolle Weise unterstützen. Auch wenn es verlockend sein kann, Trends zu folgen, hat sich EBSCO dem durchdachten und verantwortungsvollen Einsatz von KI verschrieben und konzentriert sich auf die Funktionalitäten, die den Rechercheprozess wirklich verbessern und die wissenschaftliche Integrität wahren.
Unsere KI-Funktionalitäten:
- Wurden von EBSCOs Bibliothekar:innen, Nutzer:innen und Kund:innen getestet und geprüft
- Unterstützen einen oder mehrere Aspekte des Rechercheprozesses
- Werden auf ihre Eignung und Anwendbarkeit geprüft. Wenn eine effektivere Methode gefunden wird, wird keine KI verwendet.
Dieser Ansatz trägt dazu bei, die Kosten niedrig zu halten und gleichzeitig eine hohe Qualität sicherzustellen und die Entwicklung auf die Funktionen zu konzentrieren, die einen wesentlichen Einfluss auf die Rechercheerfahrung haben.
Integrität der Daten
EBSCO stellt sicher, dass seine KI-Funktionen mit den Datenrichtlinien und -vorschriften übereinstimmen und die Privatsphäre, die Nutzerdaten und das Urheberrecht schützen. Bei EBSCO arbeiten wir eng mit Verlagen zusammen, um die Transparenz bei der Nutzung von Inhalten zu aufrechtzuerhalten. In EBSCOs aktualisierten Nutzungsbedingungen wird erläutert, dass Verlagsinhalte von Kund:innen nicht für ihre KI genutzt werden dürfen, da dies die geistigen Eigentumsrechte und Urheberrechte von Urhebern und Verlagen verletzen würde.
EBSCO ist gemäß den Standards ISO/IEC 27001, 27017, 27018 und 27701 für Informationssicherheit und Datenschutz zertifiziert. Zum Schutz der Privatsphäre und der Sicherheit geben wir keinerlei Kunden- oder Nutzerdaten an KI-Modelle weiter. Darüber hinaus beobachten wir aufmerksam die Entwicklung der KI-Vorschriften sowie KI-Richtlinien und berücksichtigen diese. Dazu gehören die Richtlinien für verantwortungsvolle KI der NATO und der EU, der AI Act der EU und andere nationale KI-Normen und -Standards weltweit.
Weitere Informationen
Möchten Sie mehr über KI bei EBSCO erfahren? Dann nehmen Sie bitte Kontakt mit uns auf. Sie können sich auch für unsere KI-Betatest-Programme bewerben oder mit uns an ausgewählten Forschungs- und Entwicklungsprojekten arbeiten.
Bereich Forschung und Entwicklung
