Investigación responsable, IA responsable
Las prácticas de investigación respetadas en todo el mundo -como el análisis de citas, la triangulación, la reproducibilidad, la revisión sistemática y el diseño ético de los estudios- son esenciales para generar confianza en la investigación. Los bibliotecarios llevan mucho tiempo defendiendo estas prácticas. En EBSCO, nuestro objetivo es mantener esa confianza dentro de la comunidad investigadora y garantizar que las tecnologías de IA mejoren el proceso de investigación, ya sea con fines personales o académicos.
Basándose en la orientación de nuestros clientes, socios y organismos reguladores, EBSCO ha desarrollado y se adhiere a los siguientes principios de IA.
Calidad
EBSCO garantiza la precisión de su IA basándola en datos fidedignos a través de la Generación mejorada por recuperación (RAG), gráficos de conocimiento y una rigurosa revisión por parte de bibliotecarios y expertos en la materia (SME). No nos basamos en la formación de texto completo sin el consentimiento de los creadores, ya que hacerlo no se ajustaría a las prácticas responsables de la IA.
La investigación ha demostrado que cuando un modelo lingüístico amplio (LLM) se conecta a datos enlazados en forma de grafo de conocimiento, la precisión aumenta en un 54%, lo que reduce la probabilidad de alucinaciones en las respuestas de la IA. El Unified Subject Index (USI) de EBSCO conecta todos los vocabularios controlados académicos en un gráfico de conocimiento de datos enlazados, mientras que el EBSCO Scholarly Graph (ESG) enlaza más de 100 millones de artículos académicos con sus metadatos, métricas de citas y perfiles de autores e instituciones. Con miles de millones de artefactos de contenido fidedigno, nuestras actividades de IA se basan firmemente en datos académicos basados en pruebas para reducir las imprecisiones y aumentar la fiabilidad.
Transparencia
La transparencia es crucial para una toma de decisiones informada, y EBSCO se compromete a proporcionar un etiquetado claro y características de IA explicables. Nuestro enfoque de la transparencia de la IA incluye la explicación de:
- El origen, la procedencia y la composición de los datos.
- Cómo se utilizan y ponderan los datos de origen en el modelo de IA.
- El proceso de verificación de los datos de base de la IA, incluidas las contribuciones de bibliotecarios y expertos en la materia (PYME).
- La estructura de los mensajes enviados al modelo de IA y la clasificación de la relevancia (sin revelar mensajes o algoritmos específicos).
- Cómo gestionamos el impacto medioambiental de nuestra IA.
En EBSCO, la IA explicable significa proporcionar transparencia sobre cómo funcionan nuestras características de IA dentro de nuestros productos. También damos prioridad al uso de modelos de IA transparentes siempre que sea posible y controlamos activamente el Índice de Transparencia de Stanford a la hora de seleccionar modelos.
Alfabetización informacional
EBSCO se asocia con bibliotecarios para mejorar la AI y la alfabetización informacional. Como subconjunto de la alfabetización informacional, los recursos de alfabetización en IA ayudan a los bibliotecarios a orientar a los investigadores sobre el uso responsable de la IA, incluida la detección de contenidos sintéticos, la evaluación de los resultados de la IA y la comprensión de las prácticas de IA aceptables en la investigación.
Los investigadores deberían considerar las siguientes preguntas:
- ¿Qué constituye un uso adecuado de la IA en la investigación?
- ¿Cómo asegurarse de que los contenidos generados por IA no son plagiados?
- ¿Cómo se verifica la exactitud del texto o las imágenes generados por IA?
- ¿Cómo debe citarse la IA y qué contenidos generados por IA pueden citarse?
- ¿Cómo puede denunciarse o corregirse una IA poco ética o inexacta?
- ¿Qué normas y reglamentos sobre IA deben conocer los investigadores?
- ¿Cómo deben implicar los investigadores al IRB cuando utilizan IA?
- ¿Qué herramientas son las más adecuadas para la IA en la investigación?
- ¿Cómo puede asegurarse de que la IA utilizada o sus resultados son éticos y se basan en fuentes fidedignas?
La alfabetización informacional es una habilidad clave para que los investigadores determinen las respuestas a estas preguntas. EBSCO pretende ayudar a los bibliotecarios con estas importantes conversaciones y ayudar a educar a los investigadores en técnicas de alfabetización.
Equidad
Una IA equitativa depende de basarse en datos diversos y de origen ético y de que se garantice la igualdad de acceso a los contenidos, con independencia de la experiencia investigadora, el idioma o los conocimientos. Muchos modelos lingüísticos extensos (LLMs) poseen conocimientos generales, pero tienen dificultades con las preguntas detalladas y específicas del dominio, lo que a menudo provoca imprecisiones. Para respaldar consultas de investigación precisas, los LLMs requieren datos específicos de un dominio y el examen de expertos.
Además, los LLMs deben comprender datos cultural y lingüísticamente diversos para garantizar la inclusividad. EBSCO utiliza recursos como el contenido excepcionalmente diverso que ofrecen las bases de datos de EBSCO, así como el Índice Temático Unificado (USI), que incluye más de 280 idiomas y dialectos de más de 100 vocabularios controlados, para añadir información más equitativa a las respuestas de IA. Estos recursos no se utilizan para entrenar a la IA porque eso iría en contra de nuestras prácticas responsables de IA.
El usuario primero
Nuestras funciones de IA dan prioridad a la experiencia del usuario, sometiéndose a pruebas exhaustivas y a la aprobación de los usuarios para garantizar que son eficaces y apoyan de forma responsable el proceso de investigación. Aunque seguir las tendencias puede ser tentador, EBSCO se dedica a utilizar la IA de forma reflexiva y responsable, centrándose en funciones que realmente mejoren el proceso de investigación y defiendan la integridad académica.
Nuestras funciones de IA:
- Son revisadas por bibliotecarios, usuarios y clientes de EBSCO.
- Apoyan uno o varios aspectos del proceso de investigación.
- Se evalúa su idoneidad. Si se encuentra un método más eficaz, no se utiliza la IA.
Este enfoque ayuda a mantener los costes bajos, la calidad alta y el desarrollo centrado en las funciones que tienen un impacto significativo en la experiencia de investigación.
Integridad de los datos
EBSCO garantiza que nuestras funciones de IA cumplen con las políticas de datos, protegiendo la privacidad, los derechos de autor y los datos de los usuarios. Nos asociamos con editores para mantener la transparencia en el uso de los contenidos, y nuestras condiciones de uso actualizadas aclaran que los contenidos de los editores no pueden utilizarse para la IA de los clientes, ya que esto infringiría la propiedad intelectual y los derechos de autor de los creadores y editores.
EBSCO está certificada conforme a las normas ISO/IEC 27001, 27017, 27018 y 27701 para la seguridad y privacidad de la información. Para proteger la privacidad y la seguridad, no compartimos datos de clientes o usuarios con modelos de IA. También seguimos de cerca y nos adaptamos a la evolución de la normativa sobre IA, incluidas las directrices de la OTAN y la UE sobre IA responsable, la Ley de IA de la UE y otras normas nacionales.
Manténgase informado
Póngase en contacto con nosotros para obtener más información sobre la IA en EBSCO, inscribirse en nuestros programas beta de IA o colabore con nosotros en iniciativas de investigación y desarrollo.
Rincón de investigación y desarrollo
