Odpovědný výzkum, odpovědná umělá inteligence
Celosvětově respektované výzkumné postupy (jako je analýza citací, triangulace, reprodukovatelnost, systematické přezkoumávání a etický design studií) jsou nezbytné pro budování důvěry ve výzkum. Knihovníci se o tyto postupy zasazují již dlouho. Naším cílem ve společnosti EBSCO je udržet tuto důvěru ve výzkumné komunitě a zajistit, aby technologie umělé inteligence zlepšovaly proces výzkumu, ať už pro osobní nebo akademické účely.
Na základě pokynů našich zákazníků, partnerů a regulačních orgánů společnost EBSCO vypracovala a dodržuje následující zásady umělé inteligence.
Kvalita
EBSCO zajišťuje přesnost umělé inteligence tím, že ji zakládá na autoritativních datech prostřednictvím generování rozšířeného vyhledávání (Retrieval-Augmented Generation - RAG), znalostních grafů a důkladného prověřování knihovníky a odborníky v daném oboru (Subject Matter Experts - SME). Bez souhlasu tvůrců se nezaměřujeme na fulltextové trénování, protože by to nebylo v souladu s odpovědnými postupy v oblasti umělé inteligence.
Výzkum prokázal, že pokud je velký jazykový model (Large Language Model) připojen k propojeným datům ve formě znalostního grafu, přesnost se zvyšuje o 54 %, což snižuje pravděpodobnost halucinací v odpovědích umělé inteligence. Unified Subject Index (USI) společnosti EBSCO propojuje všechny odborné řízené slovníky do propojeného datového znalostního grafu, přičemž EBSCO Scholarly Graph (ESG) propojuje více než 100 milionů odborných článků s jejich metadaty, citačními metrikami a profily autorů a institucí. Díky miliardám autoritativních obsahových prvků jsou naše aktivity v oblasti umělé inteligence pevně založeny na vědeckých údajích podložených důkazy, což snižuje nepřesnosti a zvyšuje spolehlivost.
Transparentnost
Transparentnost je pro informované rozhodování klíčová a společnost EBSCO se zavázala poskytovat jasné označení a vysvětlitelné funkce UI. Náš přístup k transparentnosti umělé inteligence zahrnuje vysvětlení:
- Původu, zdroje a složení dat.
- Jak se zdrojová data používají a jak jsou v modelu umělé inteligence hodnocena.
- Procesu prověřování podkladových dat UI, včetně příspěvků knihovníků a odborníků na danou problematiku (SME).
- Strukturu podnětů zasílaných modelu umělé inteligence a hodnocení relevance (bez zveřejnění konkrétních podnětů nebo algoritmů).
- Jak řídíme dopad naší umělé inteligence na životní prostředí.
Ve společnosti EBSCO vysvětlitelná umělá inteligence znamená, že poskytujeme transparentní informace o tom, jak naše funkce umělé inteligence fungují v rámci našich produktů. Rovněž upřednostňujeme používání transparentních modelů AI, kdykoli je to možné, a při výběru modelů aktivně sledujeme Stanford Transparency Index.
Informační gramotnost
EBSCO spolupracuje s knihovníky na zlepšování umělé inteligence a informační gramotnosti. Jako dílčí část informační gramotnosti pomáhají zdroje o umělé inteligenci knihovníkům vést výzkumné pracovníky k odpovědnému používání umělé inteligence, včetně odhalování syntetického obsahu, posuzování výstupů umělé inteligence a pochopení přijatelných postupů umělé inteligence ve výzkumu.
Výzkumní pracovníci by měli zvážit následující otázky:
- Co představuje vhodné použití UI ve výzkumu?
- Jak lze zajistit, aby obsah generovaný umělou inteligencí nebyl plagiátem?
- Jak ověřit správnost textu nebo obrázků generovaných umělou inteligencí?
- Jak by se měla umělá inteligence citovat a jaký obsah vytvořený umělou inteligencí lze citovat?
- Jak lze neetickou nebo nepřesnou UI nahlásit nebo opravit?
- Jaké normy a předpisy v oblasti umělé inteligence by měli výzkumní pracovníci znát?
- Jak by měl výzkumný pracovník zapojit komisi IRB při používání umělé inteligence?
- Jaké nástroje jsou pro AI ve výzkumu nejvhodnější?
- Jak lze zajistit, aby použitá umělá inteligence nebo její výstupy byly etické a vycházely z důvěryhodných zdrojů?
Informační gramotnost je pro výzkumné pracovníky klíčovou dovedností pro zjištění odpovědí na tyto otázky. Cílem EBSCO je podpořit knihovníky v těchto důležitých diskuzích a pomoci jim vzdělávat výzkumné pracovníky v technikách gramotnosti.
Rovnost
Spravedlivá umělá inteligence závisí na tom, zda je založena na rozmanitých, eticky získaných datech a zda je zajištěn rovný přístup k obsahu bez ohledu na výzkumné zkušenosti, jazyk nebo odborné znalosti. Mnoho velkých jazykových modelů (LLM) disponuje obecnými znalostmi, ale mají problémy s podrobnými otázkami specifickými pro danou oblast, což často vede k nepřesnostem. Pro podporu přesných výzkumných dotazů vyžadují LLM údaje specifické pro danou oblast a odborné prověření.
Kromě toho musí LLM rozumět kulturně a jazykově odlišným údajům, aby byla zajištěna inkluzivita. EBSCO využívá zdroje, jako je jedinečný rozmanitý obsah, který databáze EBSCO nabízejí, a také jednotný předmětový rejstřík (Unified Subject Index, USI), který zahrnuje více než 280 jazyků a dialektů z více než 100 řízených slovníků, k tomu, aby do odpovědí AI přidávala spravedlivější informace. Tyto zdroje se nepoužívají k tréninku umělé inteligence, protože by to bylo v rozporu s našimi odpovědnými postupy v oblasti umělé inteligence.
Uživatelsky orientované stránky
Naše funkce umělé inteligence upřednostňují uživatelskou přívětivost a procházejí důkladným testováním a prověřováním ze strany uživatelů, aby bylo zajištěno, že jsou efektivní a zodpovědně podporují výzkumný proces. Přestože následování trendů může být lákavé, EBSCO se snaží využívat umělou inteligenci uváženě a zodpovědně a zaměřuje se na funkce, které skutečně zlepšují výzkum a podporují akademickou integritu.
Naše funkce umělé inteligence:
- Jsou prověřeny knihovníky, uživateli a zákazníky EBSCO.
- Podpora jednoho nebo více aspektů výzkumného procesu.
- Jsou hodnoceny z hlediska jejich vhodnosti. Pokud je nalezena účinnější metoda, umělá inteligence se nepoužije.
Tento přístup pomáhá udržet nízké náklady, vysokou kvalitu a vývoj zaměřený na funkce, které významně ovlivňují výzkumné zkušenosti.
Integrita dat
EBSCO zajišťuje, aby naše funkce umělé inteligence byly v souladu s pravidly ochrany osobních údajů, autorských práv a údajů uživatelů. Spolupracujeme s vydavateli, abychom zachovali transparentnost při používání obsahu, a naše aktualizované podmínky používání objasňují, že obsah vydavatelů nelze používat pro umělou inteligenci zákazníků, protože by tím bylo porušeno duševní vlastnictví a autorská práva tvůrců a vydavatelů.
Společnost EBSCO je certifikována podle norem ISO/IEC 27001, 27017, 27018 a 27701 pro bezpečnost informací a ochranu soukromí. V zájmu ochrany soukromí a bezpečnosti nesdílíme údaje zákazníků ani uživatelů s modely umělé inteligence. Pečlivě také sledujeme a přizpůsobujeme se vyvíjejícím se předpisům v oblasti umělé inteligence, včetně směrnic NATO a EU pro odpovědnou umělou inteligenci, Nařízení EU o umělé inteligenci a dalších národních norem.
Zůstaňte informováni
Kontaktujte nás a získejte více informací o umělé inteligenci v EBSCO, přihlaste se do našich beta programů pro umělou inteligenci nebo s námi spolupracujte na výzkumných a vývojových iniciativách.
