Verantwortungsvolle Forschung durch verantwortungsvoll eingesetzte KI

Wenn man sich die Nachrichten ansieht, scheint es manchmal, als wären wir in einer Episode der Twilight Zone angelangt, in der Dinge, die in der Vergangenheit nicht möglich (oder zumindest nicht leicht zu bewerkstelligen) waren, mit der heutigen künstlichen Intelligenz (KI) relativ trivial erscheinen.

Wenn sie verantwortungsbewusst eingesetzt wird, kann KI erstaunliche Dinge bewirken. Einige Beispiele:

• Digital-Twin-Technologien ermöglichen hyperrealistische Simulationen und die Modellierung realer Szenarien für eine sicherere Flugzeugherstellung.
• Es gibt KI-Vorhersagen, die die Sterblichkeit von Müttern verringern können.
• Der Informationsaustausch wird durch die Digitalisierung handgeschriebener, einzigartiger Archivmaterialien erleichtert.
• Demonstrationen im Bereich der unterirdischen Wissenschaft (kritische Infrastrukturen im Untergrund) mit Hilfe von KI unterstützen die politische Entscheidungsfindung.
• KI unterstützt die Entdeckung effizienterer Materialien für Batterien in der „grünen“ Wissenschaft.

Der Einsatz von KI ohne verantwortungsvoll gesetzte Grenzen kann jedoch zu Problemen führen, die – wie einige Nachrichten und Studien gezeigt haben – unbedingt vermieden werden sollten. Mit den richtigen Grenzen, Vorschriften und Grundsätzen kann KI zu einer schnelleren und effizienteren Forschung sowie zu Innovationsdurchbrüchen führen und vor einem Einsatz durch Akteure mit missbräuchlichen Absichten schützen.

Ein Teil des Problems bei der Einführung und Einhaltung verantwortungsvoller KI-Praktiken besteht darin, dass der Begriff KI mehrdeutig ist und es keine einheitliche Definition gibt. Ist KI maschinelles Lernen? Gilt eine Zusammenführung und Deduplizierung bereits als KI? Ist KI ein einfaches Skript? Es ist schwer zu bestimmen, was unter KI zu verstehen ist, wenn es so viele Möglichkeiten gibt, KI zu definieren. Sehen wir uns einige Definitionen näher an.

Der „EU AI Act“ definiert KI im Artikel 3.1 wie folgt:

„KI-System: ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können.“ (2024)

Die UNESCO definiert KI (Englisch „AI“ für „Artificial Intelligence“) wie folgt:

„Technology that automatically generates content in response to prompts written in natural-language conversational interfaces. Rather than simply curating existing webpages, by drawing on existing content, GenAI actually produces new content. The content can appear in formats that comprise all symbolic representations of human thinking: texts written in natural language, images (including photographs, digital paintings and cartoons), videos, music and software code. GenAI is trained using data collected from webpages, social media conversations and other online media. It generates its content by statistically analysing the distributions of words, pixels or other elements in the data that it has ingested and identifying and repeating common patterns (for example, which words typically follow which other words).“ (2023, S. 8)

Der United States Congressional Research Service definiert KI wiederum als:

„Computerized systems that work and react in ways commonly thought to require intelligence…[and] refers to machine learning (ML) models developed through training on large volumes of data in order to generate content.“ (2023)

Neben diesen drei Definitionen gibt es noch viele weitere Definitionen von KI, und viele von ihnen wurden vor den Large Language Models (LLMs) verfasst, die wir heute am häufigsten verwenden. Die meisten Definitionen stimmen jedoch darin überein, dass es sich bei KI um ein unüberwachtes Modell handelt, das mit großen Mengen von – in der Regel frei zugänglichen – Webdaten trainiert wird und dazu dient, Texte und Bilder auf der Grundlage statistischer Vorhersagen unter Verwendung der gelernten Daten zu generieren.

KI ist das neue Modewort; viele Produkte behaupten nun, KI zu nutzen, obwohl sie es womöglich gar nicht tun. Eine falsche Kennzeichnung dessen, was KI ist und was nicht, erschwert die Durchsetzung ethischer und verantwortungsvoll engesetzter KI. Außerdem wird es für die Verbraucher:innen schwieriger zu erkennen, was KI ist (oder was durch KI erzeugt wird), und Vorsichtsmaßnahmen zu treffen, wenn sie sie verwenden. Dadurch und durch neue Vorschriften wie dem „EU AI Act“  wird es noch wichtiger, korrekt zu bestimmen, was KI ist oder was durch KI erzeugt wird. Es wird eine Standarddefinition benötigt, die Unternehmen, Institutionen und Nutzer:innen hilft, KI zu erkennen und verantwortungsvoll mit ihr umzugehen.

Um sicherzustellen, dass EBSCO erkennen und kennzeichnen kann, welche Produktfeatures KI nutzen oder durch KI generiert werden, und um sicherzustellen, dass wir bei EBSCO unseren Nutzer:innen dies auch entsprechend mitteilen und transparent sichtbar machen, haben wir die folgende Definition von KI bei EBSCO auf der Grundlage der oben genannten maßgeblichen Quellen erstellt:

„A general term for machine learning processes where the model learns from a vast amount of unstructured and untagged information, usually from the open web, where it learns linguistic properties, such as the way to construct sentences, how people talk about certain topics, and how to contextualize what those words mean when entered together, all to predict how to respond to users’ needs entered as a query or prompt to the model.”

In den nächsten Monaten werden wir die sechs KI-Grundsätze, die EBSCO verwendet, genauer erläutern und aufzeigen, wie wir verantwortungsvolle Forschung durch verantwortungsvoll eingesetzte KI unterstützen:

• Qualität: Verwendung maßgeblicher Daten und Ressourcen, um die KI auf wahrheitsgemäße Quellen zu stützen und die Überprüfung durch Bibliothekar:innen zu ermöglichen.
• Transparenz: Klare Kennzeichnung von KI-Funktionen und erklärbare KI zur Unterstützung einer fundierten Entscheidungsfindung.
• Informationskompetenz: Zusammenarbeit mit Bibliothekar:innen, um zu vermitteln, wie man KI verantwortungsvoll einsetzt und wie man KI-Ergebnisse für die Forschung bewerten und nutzen kann.
• Diversität und Gleichbehandlung: Dies setzt eine Grundlage aus vielfältigen, ethisch korrekten Daten und einen gleichberechtigten Zugang zu Inhalten voraus, unabhängig von Rechercheerfahrung, Sprache oder Fachwissen.
• Nutzerfreundlichkeit und Mehrwert: KI wird von den Nutzer:innen gründlich getestet und geprüft, um sicherzustellen, dass sie effektiv und intuitiv nutzbar ist und den Rechercheprozess auf verantwortungsvolle Weise unterstützt.
• Integrität der Daten: EBSCOs KI hält dieselben Datenrichtlinien und Vorschriften ein, die derzeit zum Schutz der Privatsphäre und der Rechte von Urheberrechtsinhabern und Nutzerdaten eingesetzt werden.

Abonnieren Sie den deutschsprachigen EBSCOpost-Blog, um keinen Artikel zu verpassen.