Odpovědný výzkum za pomoci odpovědné umělé inteligence

Při čtení zpráv to vypadá, jako bychom vstoupili do epizody Zóny soumraku, kde se věci, které v minulosti nebyly možné (nebo alespoň nebyly snadno proveditelné), zdají být s moderní umělou inteligencí relativně snadno proveditelné.

Pokud je umělá inteligence používána zodpovědně, může pomoci dělat velkolepé věci, jako jsou technologie Digital Twin, které umožňují hyperrealistické simulace a modelování scénářů reálného světa pro bezpečnější výrobu letadel; předpovědi umělé inteligence pro prevenci úmrtnosti matek; pomoc při sdílení informací prostřednictvím digitalizace ručně psaných jedinečných archivních materiálů; demonstrace podpovrchových věd (kritická infrastruktura pod zemí) s umělou inteligencí, které pomáhají při tvorbě strategií; umělá inteligence také pomáhá objevovat účinnější materiály pro baterie v ekologické vědě a mnoho dalšího.

Umělá inteligence bez stanovení odpovědných hranic může vést k problémům, kterým je lepší se vyhnout, jak ukazují některé zprávy a výzkumy. S vhodnými limity, předpisy a zásadami může umělá inteligence přispět k rychlejšímu a efektivnějšímu výzkumu a průlomovým inovacím, stejně jako k ochraně jejího využití před škodlivými subjekty, jak upozorňují výzkumníci z George Washington.

Akt EU o umělé inteligenci definuje umělou inteligenci v čl. 3 odst. 1 jako

„strojový systém navržený tak, aby po zavedení fungoval s různými úrovněmi autonomie a který po zavedení může vykazovat adaptabilitu a který za explicitními nebo implicitními účely z obdržených vstupů odvozuje, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, které mohou ovlivnit fyzická nebo virtuální (2024).“

UNESCO definuje umělou inteligenci jako

„technologie, která automaticky generuje obsah v reakci na výzvy napsané v přirozeném jazyce konverzačních rozhraní. Spíše než pouhým kurátorováním existujících webových stránek, čerpáním z existujícího obsahu, GenAI ve skutečnosti vytváří nový obsah. Obsah se může objevit ve formátech, které zahrnují všechny symbolické reprezentace lidského myšlení: texty psané přirozeným jazykem, obrázky (včetně fotografií, digitálních obrazů a kreslených filmů), videa, hudbu a softwarový kód. GenAI je trénována na základě dat shromážděných z webových stránek, konverzací na sociálních sítích a dalších online médií. Svůj obsah vytváří statistickou analýzou rozložení slov, pixelů nebo jiných prvků v datech, která přijala, a identifikací a opakováním společných vzorců (například která slova obvykle následují po kterých jiných slovech).“ (2023, s. 8).

The United States Congressional Research Service definuje umělou inteligenci jako

„počítačové systémy, které pracují a reagují způsoby, o nichž se běžně předpokládá, že vyžadují inteligenci... [a] odkazuje na modely strojového učení (ML) vyvinuté prostřednictvím tréninku na velkých objemech dat za účelem generování obsahu (2023).“

Mimo tyto definice existuje mnoho definic umělé inteligence a mnoho z nich bylo napsáno před vznikem velkých jazykových modelů (LLM), které dnes vidíme používat nejčastěji, ale většina definic se přinejmenším shoduje na tom, že umělá inteligence je neřízený model vycvičený na obrovském množství většinou otevřených webových dat, který se používá ke generování textů a obrázků na základě statistických předpovědí z jeho učení.

Kromě problému s definicemi je umělá inteligence novým fenoménem; mnoho produktů nyní tvrdí, že používají umělou inteligenci, i když ji možná nepoužívají. Nesprávné označování toho, co je a co není umělá inteligence, ztěžuje prosazování etické a odpovědné umělé inteligence a také ztěžuje spotřebitelům rozpoznat, co je umělá inteligence (nebo co je vytvořeno umělou inteligencí), a přijmout preventivní opatření při jejím používání. To a nové předpisy, jako je EU AI Act, ještě více zvyšují důležitost správného označování toho, co je používáno nebo generováno AI, a to vyžaduje standardní definici, která pomůže společnostem a uživatelům identifikovat, co používají nebo co je generováno AI, a zacházet s tím zodpovědně.

Abychom se ujistili, že EBSCO dokáže identifikovat a označit, které funkce produktů jsou využívány nebo generovány umělou inteligencí, a abychom se ujistili, že o tom náležitě informujeme naše uživatele, inspirujeme se zde uvedenými autoritativními zdroji a definujeme umělou inteligenci v EBSCO jako „obecný termín pro procesy strojového učení, kdy se model učí z obrovského množství nestrukturovaných a neoznačených informací, obvykle z otevřeného webu, kde se učí lingvistickým vlastnostem, například způsobu konstrukce vět, tomu, jak lidé mluví o určitých tématech, a tomu, jak kontextualizovat, co tato slova znamenají, když jsou zadána společně, a to vše za účelem předpovědi, jak reagovat na potřeby uživatelů v podobě dotazu nebo příkazu zadaného modelu. “

V této sérii článků vás seznámíme s principy umělé inteligence, které společnost EBSCO používá, s tím, kde ji používáme, a poukážeme na to, jak podporujeme odpovědný výzkum prostřednictvím odpovědné umělé inteligence.

V nadcházejících měsících se společně s vámi ponoříme do každého ze šesti principů AI.

• Kvalita: Využití autoritativních dat a zdrojů k podpoře umělé inteligence na základě zdrojů pravdivých informací a prověřování ze strany knihovníků
• Transparentnost: Jasné označení funkcí AI a vysvětlitelná AI na podporu informovaného rozhodování
• Informační gramotnost: Spolupráce s knihovníky při výuce toho, jak používat AI, co je zodpovědná AI, jak posuzovat výstupy AI pro výzkum a co je přijatelné použití AI
• Rovnost: Založení na rozmanitých a ověřených datech, zajištění rovného přístupu k obsahu bez ohledu na výzkumné zkušenosti, primární jazyk nebo odbornost v dané oblasti
• Hodnota pro koncového uživatele: AI je v první řadě pro uživatele, je testována a ověřována uživateli, a UX, a je zaměřena na to, jak lze UI zodpovědně využívat pro efektivnější výzkum
• Integrita dat: EBSCO AI bude dodržovat stejné zásady a postupy týkající se dat, které se v současné době používají a které chrání soukromí a práva držitelů autorských práv a uživatelských dat