Herramientas de IA en la Escritura Académica: Directrices para un Uso Ético

El Instituto Americano de Ciencias Matemáticas (AIMS) reconoce el creciente papel de la Inteligencia Artificial (IA) en la escritura e investigación académica. Las herramientas de IA, como ChatGPT, ofrecen un potencial transformador al ayudar en la generación de ideas, superar el bloqueo del escritor y agilizar los procesos de edición. Sin embargo, AIMS enfatiza la importancia de comprender las limitaciones de estas tecnologías y utilizarlas de manera responsable para mantener la integridad académica y científica. La supervisión humana y la rendición de cuentas siguen siendo cruciales para garantizar la exactitud y fiabilidad del contenido publicado. Estas directrices apoyan a los autores en la integración efectiva de las herramientas de IA en su trabajo, manteniendo al mismo tiempo los más altos estándares de publicación académica.

Es esencial diferenciar entre herramientas de IA asistencial y generativa. Las herramientas de IA asistencial, como Grammarly, Curie y LanguageTool, mejoran el contenido redactado por el usuario proporcionando sugerencias, correcciones y mejoras. Estas herramientas refinan y mejoran la claridad en el contenido creado de forma independiente. Las herramientas de IA generativa, como ChatGPT y DALL-E, producen contenido original, incluyendo texto, imágenes y traducciones. El contenido creado principalmente por IA generativa se considera 'generado por IA', incluso con modificaciones humanas posteriores. Comprender esta distinción es vital para la divulgación adecuada y el uso responsable.

Si bien el uso de herramientas de IA asistencial no requiere divulgación, AIMS exige que todo el contenido, incluido el contenido asistido por IA, se someta a una rigurosa revisión humana para garantizar la calidad y la autenticidad. Los autores deben divulgar cualquier contenido generado por IA en sus envíos, incluyendo texto, imágenes o traducciones. Esta divulgación permite al equipo editorial tomar decisiones de publicación informadas. Para este propósito se proporciona una sección de 'Declaración de uso de herramientas de IA', que requiere que los autores especifiquen la herramienta utilizada y su aplicación en el trabajo.

Al utilizar herramientas de IA generativa, los autores deben adherirse a directrices específicas para mantener la integridad académica. Primero, divulgar el uso de herramientas de IA en el envío. Segundo, verificar cuidadosamente la exactitud, validez y adecuación del contenido generado por IA, ya que los Modelos de Lenguaje Grandes (LLM) pueden producir información incorrecta o engañosa. Tercero, revisar meticulosamente las fuentes y las citas, asegurando la referencia adecuada. Cuarto, citar apropiadamente el contenido generado por IA siguiendo las convenciones de referencia establecidas. Quinto, evitar el plagio y la infracción de derechos de autor asegurándose de que el envío no contenga material plagiado. Sexto, ser consciente de los posibles sesgos en el texto generado por IA y garantizar la inclusividad y la imparcialidad. Séptimo, reconocer las limitaciones de los LLM, incluidas las posibles imprecisiones y lagunas de conocimiento. Octavo, recordar que las herramientas de IA no pueden ser reconocidas como coautoras, y el autor sigue siendo responsable del trabajo. Finalmente, mantenerse actualizado sobre los últimos desarrollos y desafíos éticos relacionados con el contenido generado por IA.

Ciertos usos de la IA generativa están estrictamente prohibidos. Los autores no deben utilizar IA generativa para crear o modificar artificialmente datos de investigación fundamentales. Compartir información personal o propietaria sensible en plataformas de IA como ChatGPT también está prohibido, ya que puede exponer datos confidenciales o propiedad intelectual. Los editores y revisores deben mantener la confidencialidad del proceso de revisión por pares y no deben compartir información sobre manuscritos enviados o informes de revisión por pares en herramientas de IA generativa. Los revisores también tienen prohibido utilizar herramientas de IA para generar informes de revisión.

AIMS sigue las directrices del Comité de Ética de Publicación (COPE) con respecto al uso de herramientas de IA. COPE enfatiza que las herramientas de IA no pueden ser listadas como autoras de un artículo, ya que no pueden asumir la responsabilidad del trabajo presentado, declarar conflictos de interés ni gestionar acuerdos de derechos de autor y licencias. Los autores deben divulgar el uso de cualquier herramienta de IA generativa en la redacción de un manuscrito, la producción de imágenes o elementos gráficos, o la recopilación y análisis de datos. Los autores son plenamente responsables del contenido de su manuscrito, incluida cualquier parte producida por una herramienta de IA, y son responsables de cualquier infracción de la ética de publicación.

Las directrices proporcionadas por AIMS tienen como objetivo garantizar el uso responsable y ético de las herramientas de IA en la escritura y la investigación, preservando la integridad y la calidad de las publicaciones académicas y científicas. Al adherirse a estas directrices, los autores pueden aprovechar los beneficios de la IA mientras mantienen los más altos estándares de trabajo académico. La divulgación, la verificación y la conciencia de las limitaciones son clave para una integración responsable de la IA.

Para obtener más información sobre la IA en el trabajo académico, los autores pueden consultar recursos como las recomendaciones de la Asociación Mundial de Editores Médicos (WAME) sobre chatbots y manuscritos académicos, la declaración de posición del Comité de Ética de Publicación (COPE) sobre Autoría y herramientas de IA, y el Whitepaper de STM sobre IA Generativa en la Comunicación Académica. Estos recursos proporcionan información y orientación adicionales para navegar por el panorama cambiante de la IA en la publicación académica.