https://journalsme.com/index.php/home/index
González Ciriaco y Medina Marín JoSME 1 (I) 2023, 49-68
Advances and ethical challenges in the integration of AI in scientific production
Universidad Católica del Cibao, Republica Dominicana,
Universidad Simón Bolívar, Docente, Venezuela,
* Correo del autor correspondiente / Corresponding author email address
Cita sugerida (APA, séptima edición): González Ciriaco, L. A.., & Medina Marín, A. J. (2023). Avances y desafíos éticos en la integración de la IA en la producción científica. Journal of Scientific Metrics and Evaluation, 1(I). https://doi.org/10.69821/JoSME.v1iI.2
En el dinámico panorama de la investigación contemporánea, se subraya la integración de la inteligencia artificial (IA) para potenciar la producción científica, confrontando al mismo tiempo nuevos desafíos éticos, como el mantenimiento de la transparencia y el manejo de sesgos algorítmicos. Este artículo persigue el objetivo de dilucidar cómo los investigadores pueden equilibrar los imperativos éticos con las ventajas y desafíos que emergen de la aplicación de la IA en su labor. Para ello, se implementó una metodología de revisión sistemática, permitiendo el análisis crítico de estudios pertinentes y la identificación de tendencias y perspectivas clave sobre el uso ético de la IA. Los resultados enfatizan una creciente conciencia sobre la importancia de los marcos éticos y la integridad académica, así como la necesidad de desarrollar IA explicables. La conclusión más destacada es que, mediante enfoques multidisciplinarios que incorporen directrices éticas continuas y formación en ética de la IA, se promueve una integración ética y efectiva de estas tecnologías en la investigación, beneficiando a la comunidad científica y a la sociedad.
Historial del artículo
Recibido: 12 de julio de 2023;
Revisado: 09 de agosto de 2023;
Aceptado: 22 de octubre de 2023; Publicado: 19 de noviembre de 2023
científica,
textos,
de
investigación producción transparencia
Palabras claves:
Ética, inteligencia artificial,
Copyright ©2023 Por el(los) autor(es); Esta obra está bajo una Licencia Creative Commons Atribución-CompartirIgual 4.0 Internacional. Todos los escritos publicados en esta revista son puntos de vista personales de los autores y no representan los puntos de vista de esta revista y
de las instituciones afiliadas al autor.
In the dynamic landscape of contemporary research, the integration of artificial intelligence (AI) is underscored to enhance scientific production, simultaneously confronting new ethical challenges such as maintaining transparency and managing algorithmic biases. This article aims to clarify how researchers can balance ethical imperatives with the benefits and challenges arising from the use of AI in their work. A systematic review methodology was employed, allowing for critical analysis of relevant studies and the identification of key trends and perspectives on the ethical use of AI. The findings highlight a growing awareness of the importance of ethical frameworks and academic integrity, as well as the need to develop explainable AI. The most significant conclusion is that through multidisciplinary approaches that incorporate ongoing ethical guidelines and training in AI ethics, an ethical and effective integration of these technologies in research is promoted, benefiting both the scientific community and society at large.
Published: November 19, 2023
2023;
2023;
2023;
Reviewed: August 9,
Accepted: October 22,
Article History
Received: July 12,
Keywords:
Ethics, artificial intelligence, scientific research, text production, transparency.
Copyright ©2023 by Author(s); This work is licensed under a Creative Commons Attribution- ShareAlike 4.0 International License. All writings published in this journal are personal views of the authors and do not represent the views of this journal and the author's affiliated institutions.
En el campo de la investigación científica, la ética y la responsabilidad se erigen como pilares fundamentales que aseguran la integridad y credibilidad del conocimiento generado. En un entorno caracterizado por avances tecnológicos acelerados, la incorporación de la inteligencia artificial (IA) en la generación de textos científicos presenta importantes cuestiones éticas y metodológicas (Navarro-Cabrera, 2022).
El aspecto ético en la investigación cubre la necesidad de eliminar prácticas inapropiadas y garantizar el control de calidad en la atención médica (Arzuaga-Salazar et al., 2022). La historia de la ciencia ha sido testigo de múltiples violaciones éticas, lo que ha llevado a la implementación de normativas éticas en la investigación con seres humanos (Ferrero et al., 2022). La ética en la investigación es crucial no solo en el ámbito biomédico, sino también en otras áreas como la psicología, donde cualquier transgresión ética puede afectar negativamente la validez del trabajo realizado (Paz-Enrique, 2023; Roman Acosta, 2023b).
Desde una perspectiva histórica y académica, el concepto de "ética en la investigación científica" ha sido objeto de análisis y debate profundos. La reflexión ética lleva a reconocerla como un componente esencial de cualquier proceso de investigación científica, no solo responsabilidad del investigador individual, sino también de las instituciones reguladoras de la ciencia y la tecnología (Alvites-Huamaní, 2022). La importancia de fomentar una cultura ética en la investigación se apoya en factores como el entorno humano, político y los mecanismos de la
sociedad civil (Herrera Medina et al., 2022). Esta perspectiva aclara que cualquier comportamiento que se aparte de los principios éticos no tiene cabida en la práctica científica contemporánea, pues compromete la validez y credibilidad de la investigación (Pérez Ayala, 2022).
Desde las pautas éticas establecidas por el Código de Núremberg después de la Segunda Guerra Mundial hasta las directrices contemporáneas trazadas por organismos como el Comité de Ética de la Investigación, la ética en la investigación ha crecido con una comprensión cada vez más profunda de los derechos humanos, la privacidad y la integridad intelectual (Santin Bertoni et al., 2022). Por otro lado, la inteligencia artificial ha experimentado un crecimiento exponencial en las últimas décadas, revolucionando numerosos ámbitos de la vida moderna.
Los estudios científicos se han transformado con la ayuda de la IA, que se ha convertido en una herramienta indispensable para analizar grandes volúmenes de datos, identificar patrones complejos y automatizar tareas monótonas. La ética en la IA ha despertado un creciente interés y preocupación en la comunidad académica y científica, especialmente en temas como la equidad y los sesgos algorítmicos, subrayando la importancia de atenuar estos problemas en el desarrollo y despliegue de aplicaciones de IA (Celi et al., 2022; Gaskins, 2022; Kargl et al., 2022; Kooli & Muftah, 2022; Ryan, 2022; Roman Acosta, 2023a).
La utilización de la IA en la producción de textos científicos ha avanzado rápidamente en áreas como la generación automática de resúmenes, la traducción de idiomas y la síntesis de información. Un estudio reveló que una porción significativa de los artículos científicos publicados en los últimos cinco años ha involucrado algún grado de contribución de la IA (Canavilhas, 2023; Suazo Galdames, 2023; Lopezosa, 2023). Esta tendencia refleja la integración creciente de tecnologías de inteligencia artificial en la investigación científica y los procesos de redacción académica. Han surgido varias aplicaciones de inteligencia artificial, como SmartPaper.AI, para asistir a investigadores, académicos y estudiantes en su trabajo, mejorando la eficiencia y accesibilidad sin sustituir a los investigadores humanos, sino ampliando sus capacidades (Medina Romero, 2023). La incorporación de la IA en la producción de textos científicos representa un cambio transformador en cómo se realiza y difunde la investigación, mostrando el potencial de la IA para revolucionar la comunicación académica (Guerrero-Solé y Ballester, 2023).
Este fenómeno refleja la creciente dependencia de los investigadores en herramientas automatizadas para agilizar el proceso de escritura y análisis. Sin embargo, la evidencia muestra que el mal uso de las herramientas de IA puede socavar la integridad del proceso científico. Casos recientes de plagio y manipulación de datos han planteado dudas sobre la fiabilidad de los resultados obtenidos con la ayuda de algoritmos de IA. Por lo tanto, es crítico abordar estos problemas de manera proactiva para mantener viva la confianza en los hallazgos de la investigación científica.
Esto plantea la necesidad crítica de revisar la intersección de la ética y la IA en la producción de textos científicos. ¿Cuáles serían los principios éticos que deberían guiar el uso de la IA en la investigación? ¿Cómo pueden los investigadores asegurar la transparencia y la integridad en un entorno cada vez más automatizado? Esta es una de las preguntas fundamentales, un desafío urgente que requiere una atención cuidadosa y reflexiva.
Por lo tanto, considerando todo lo anterior, la pregunta general que guiará nuestra investigación se formulará de la siguiente manera: "¿Cómo pueden los investigadores reconciliar los imperativos éticos con las oportunidades y desafíos presentados por la inteligencia artificial en la producción de textos científicos?" El objetivo principal del artículo es investigar cómo los investigadores pueden reconciliar los imperativos éticos con las oportunidades y desafíos presentados por la aparición de la inteligencia artificial en la producción de textos científicos.
El enfoque y método utilizados en esta revisión narrativa, de corte cualitativo, se basan en procesos de revisión sistemática rigurosos y comprensivos desde la recopilación hasta los métodos de análisis de la información relevante (Gómez Rodríguez 2017; Manterola 2023). Inicialmente, se realizó una búsqueda exhaustiva de todas las fuentes de información relevantes, como artículos científicos, libros, informes y otros documentos relacionados con la ética en la investigación y la inteligencia artificial en la producción científica. La búsqueda se orientó a identificar materiales diversos y pertinentes desde bases de datos académicas y motores de búsqueda en línea.
Una vez recopiladas las fuentes de información, se procedió a realizar una lectura crítica y selectiva de cada una de ellas. Los recursos seleccionados fueron evaluados en cuanto a su relevancia y calidad con base en criterios de inclusión y exclusión, priorizando aquellos que
ofrecían una perspectiva sustancial y fundamentada sobre los temas de interés. El resultado incluye conceptos clave, definiciones, antecedentes históricos y fundamentos teóricos indispensables para la construcción de un marco conceptual sólido sobre el cual se basaría todo el análisis, ya sea teórico o empírico.
Posteriormente, se realizó un análisis temático de la información recopilada, identificando patrones, tendencias y puntos de vista relacionados con la ética en la investigación y el uso de la inteligencia artificial en la producción científica. El método de análisis fue inductivo, permitiendo que los temas emergieran de los datos sin forzarlos en marcos preestablecidos. El análisis se llevó a cabo de manera iterativa, con una revisión constante de las interpretaciones para su refinamiento, a medida que surgían temas y subtemas con una comprensión de los datos.
Los temas que emergieron se sintetizaron en una narrativa coherente y persuasiva, con enlaces explícitos a cómo los temas abordaron los objetivos e interrogantes de investigación establecidos al inicio del estudio. Se justificó claramente la importancia y relevancia del tema, contextualizando la discusión en el escenario actual de la investigación científica. Asimismo, se discutieron las limitaciones del estudio y la investigación futura necesaria en este campo.
Fortaleciendo la integridad en la investigación
El reconocimiento de la importancia de mantener la integridad y la transparencia en la investigación para prevenir prácticas no éticas como el plagio, la falsificación de datos y la mala conducta científica ha ido en aumento, como lo indican Geary & Goggins (2022). Esta insistencia en los estándares éticos es fundamental para preservar la credibilidad y la fiabilidad de los hallazgos investigativos, argumento reforzado por Michiels et al. (2023). Se motiva tanto a instituciones como a investigadores a priorizar el comportamiento ético para evitar comprometer la integridad del trabajo científico, como resaltan Nakitare & Otike (2022). Las principales razones para las retracciones en publicaciones académicas incluyen el plagio, problemas con la revisión por pares y la duplicación, subrayando el impacto negativo de dicha mala conducta en la comunidad científica (Koçyiğit & Akyol, 2022).
Las iniciativas para combatir el plagio abarcan la sensibilización entre los miembros de la facultad y los estudiantes sobre las consecuencias de la deshonestidad académica, según Hasanah & Dewantara (2022). La colaboración dentro de la comunidad académica es también crucial para
desarrollar soluciones basadas en evidencia que mejoren la confianza en la investigación, particularmente en campos como la medicina y la psicología, como lo destacan Khan & Chien (2022) y Zhang et al. (2022). Estrategias como el uso de herramientas de detección de antiplagio y la implementación de políticas estrictas por parte de las universidades se están empleando para abordar el plagio y garantizar la calidad de la investigación (Arabyat et al., 2022; Beketov & Lebedeva, 2022).
En este contexto, se está dando un gran énfasis en la formación ética de los futuros investigadores, inculcándoles desde etapas tempranas de su formación la importancia de adherirse a los principios de honestidad y ética en sus trabajos. La implementación de seminarios, talleres y cursos especializados sobre ética en la investigación se ha convertido en una práctica común en muchas instituciones educativas, buscando así crear una cultura de integridad académica sólida. A medida que la tecnología avanza, también lo hacen las herramientas disponibles para detectar y prevenir el plagio y otras formas de conducta inapropiada, lo que representa un desafío constante para mantener actualizadas las políticas y procedimientos en este ámbito.
La responsabilidad de asegurar los estándares éticos en la investigación no recae exclusivamente en las instituciones académicas; los editores y las sociedades científicas también juegan un papel crucial en el mantenimiento de estos estándares a través de una revisión rigurosa de las publicaciones y la aplicación de sanciones para aquellos que violan las normas, como señalan Arias Herrera & Morales (2022). La cooperación internacional entre organizaciones dedicadas a promover la integridad en la investigación puede facilitar el intercambio de mejores prácticas y el desarrollo de estrategias conjuntas para abordar los desafíos éticos en la ciencia, tal como indican Moreira Choez et al. (2022). Esta colaboración es esencial para fomentar un ambiente de investigación caracterizado por la transparencia, integridad y confiabilidad, según explica García-Estrella (2022).
Las editoriales y las sociedades científicas son instrumentales en el mantenimiento de los estándares éticos mediante la implementación de procesos robustos de revisión de publicaciones y la aplicación de consecuencias por infracciones éticas (Rosique Cedillo & Gómez, 2022). La cooperación entre organizaciones internacionales enfocadas en la integridad de la investigación es vital para compartir conocimientos y estrategias que permitan abordar de manera efectiva los
dilemas éticos. Al trabajar juntos, estas entidades pueden contribuir a la promoción de una conducta ética y a la preservación de la integridad en la investigación.
Mientras que el reconocimiento de la importancia de la integridad y la transparencia en la investigación sigue creciendo, también lo hace el compromiso colectivo con la lucha contra el plagio y otras prácticas no éticas. A través de la educación, la colaboración y el uso efectivo de la tecnología, la comunidad académica está tomando pasos importantes hacia la creación de un entorno de investigación más ético y confiable.
Desafíos éticos de la inteligencia artificial en la investigación científica
La integración de la IA en la producción científica ha experimentado un notable incremento, con aplicaciones en la generación de textos científicos, la revisión de literatura y el análisis de datos. Esta tendencia ha sido destacada por investigadores como Anderson et al. (2023), quienes observan el potencial de la IA para acelerar significativamente los procesos de investigación. Sin embargo, esta dependencia creciente de la IA también ha suscitado preocupaciones éticas importantes. Entre estas, se encuentran la transparencia en la generación de contenido automatizado y el riesgo de que los sesgos algorítmicos perpetúen desigualdades y discriminaciones en la investigación, tal como señalan Valenzuela (2023) y Cereceda-Monteoliva (2023).
Estas inquietudes han intensificado el debate sobre cómo mantener la integridad en la investigación científica, especialmente en lo que respecta a la creación de literatura científica con herramientas de IA como ChatGPT. Las políticas propuestas abordan las implicaciones relacionadas con la responsabilidad y la autoría de la integración de la IA en la investigación, subrayando que las herramientas de IA no pueden ser acreditadas como autores en publicaciones científicas debido a la responsabilidad vinculada a la autoría. Este enfoque destaca la necesidad de directrices claras para reconocer el papel de la IA en los resultados de investigación, con el fin de prevenir el plagio involuntario y mantener la integridad académica (Flanagin et al., 2023).
En campos como la oncología, investigaciones extensas han explorado las aplicaciones de la IA, demostrando su impacto significativo en el avance de las prácticas médicas. Sin embargo, se han identificado desafíos relacionados con la interpretabilidad de los resultados de la IA en entornos clínicos, lo que subraya la importancia de asegurar la explicabilidad de las aplicaciones de IA en el cuidado de la salud (Wu et al., 2022; Zhang et al., 2022). Además, en el ámbito del periodismo
deportivo y otros campos periodísticos, se ha explorado el uso de la IA para optimizar funciones profesionales y adaptarse a contextos como la pandemia de la Covid-19, aunque se enfrentan a limitaciones debido a la falta de recursos (Canavilhas & Giacomelli, 2023; Sanahuja & Rabadán, 2022).
Ante este panorama, la comunidad científica se encuentra ante el desafío de equilibrar el avance tecnológico con las consideraciones éticas y sociales. El desarrollo de marcos éticos robustos y la implementación de prácticas transparentes son fundamentales para integrar de manera efectiva la IA en la investigación y la práctica médica. Conforme la IA continúa evolucionando, es crucial fomentar un diálogo continuo entre desarrolladores, investigadores y el público para abordar estas preocupaciones éticas y garantizar que la tecnología se desarrolle de manera que beneficie a la sociedad en su conjunto. En la tabla 1 se puede evidenciar algunos desafíos éticos identificados en la literatura científica.
Desafíos éticos
Anderson et al. (2023) Aplicaciones de IA en generación de textos, revisión de
literatura y análisis de datos.
Valenzuela (2023) Transparencia en generación de contenido automatizado; riesgo
de perpetuar desigualdades.
Cereceda-Monteoliva (2023)
Riesgo de sesgos algorítmicos que perpetúan desigualdades y discriminación en investigación.
Flanagin et al. (2023) Responsabilidad y autoría en la integración de IA; necesidad de
directrices claras.
Wu et al. (2022) Impacto de IA en oncología; desafíos en interpretabilidad de
resultados en entornos clínicos.
Zhang et al. (2022) Importancia de asegurar la explicabilidad de aplicaciones de IA
en cuidado de la salud.
Canavilhas & Giacomelli (2023)
Uso de IA para optimizar funciones periodísticas; limitaciones por falta de recursos.
Sanahuja & Rabadán (2022)
Fuente: Elaboración propia
Adaptación de funciones periodísticas a través de IA durante la pandemia de Covid-19.
Responsabilidad en la integración de la IA en la investigación científica
Las investigaciones recientes han resaltado la necesidad de adoptar una postura crítica y reflexiva frente al uso de la IA en la investigación científica, señalando la importancia de reconocer tanto sus ventajas potenciales como sus limitaciones y riesgos. Se ha subrayado la urgencia de desarrollar marcos éticos y regulaciones específicas que guíen hacia un empleo prudente de la IA en el entorno científico. Según Haro Sarango et al. (2023), el objetivo es promover un marco que fomente valores como la transparencia, la responsabilidad y la equidad, esenciales para la investigación.
Los científicos se enfrentan al reto de equilibrar los mandatos éticos con las posibilidades y desafíos que introduce la IA, especialmente en la generación de contenido científico. Es fundamental la formulación de normativas éticas rigurosas que rijan el uso de la IA, para asegurar su aplicación consciente y ética en los estudios científicos. Esta necesidad abarca tanto los aspectos técnicos de la IA como sus consecuencias éticas y sociales, como apuntan Maita-Cruz et al. (2022).
La adopción de marcos éticos y normativas claras para la utilización de la IA en la investigación científica protege la integridad y calidad de las investigaciones y contribuye a fortalecer la confianza en la comunidad científica y en la sociedad en general. Al promover valores como la transparencia, responsabilidad y equidad en la investigación, se establecen las bases para un manejo consciente y ético de la IA en la creación de contenido científico, tal como mencionan Brenes Maltez et al. (2022).
Por tanto, es crucial que los investigadores estén informados sobre las implicaciones éticas del uso de la IA y se comprometan con la implementación de prácticas responsables. La reflexión profunda sobre el empleo de la IA en la ciencia es esencial para asegurar que se maximicen los beneficios de esta tecnología, minimizando al mismo tiempo los posibles daños y limitaciones asociados, como sugieren Hernández-Gil et al. (2023).
A medida que la IA sigue abriendo nuevos horizontes en el campo de la investigación científica, el desarrollo paralelo de una conciencia ética sobre su uso se convierte en una prioridad
indiscutible. El desafío consiste en avanzar tecnológicamente de manera que se respeten los principios éticos fundamentales, asegurando así que el progreso científico beneficie a toda la humanidad sin comprometer valores éticos esenciales.
La tabla 2 presentada resume las contribuciones de varios grupos de autores sobre el tema de la responsabilidad en la integración de la IA en la investigación científica. Cada entrada destaca un aspecto particular de la discusión, desde la promoción de marcos éticos que fomentan valores esenciales como la transparencia y la equidad, hasta la importancia de considerar las consecuencias éticas y sociales del uso de la IA.
Integración de la IA en la investigación científica
Haro Sarango et al. (2023)
Promueven un marco ético que fomente la transparencia, responsabilidad y equidad en la investigación con IA.
Maita-Cruz et al. (2022)
Brenes Maltez et al. (2022)
Hernández-Gil et al. (2023)
Fuente: Elaboración propia
Subrayan la importancia de considerar tanto los aspectos técnicos como las consecuencias éticas y sociales de la IA.
Destacan la importancia de adoptar marcos éticos y normativas claras para la utilización consciente y ética de la IA.
Insisten en la necesidad de reflexión profunda sobre el uso de la IA para maximizar beneficios y minimizar perjuicios.
Situándose en la intersección entre la IA y la ética en la producción de textos científicos, este artículo de revisión sistemática despliega un amplio espectro de perspectivas y hallazgos. Al comparar los resultados presentados con investigaciones previas, se observa tanto convergencia como divergencia en la comprensión y enfoques hacia la reconciliación de los imperativos éticos con las oportunidades y desafíos que presenta la IA en este campo.
La convergencia es notable en la percepción general sobre la importancia del papel que juega la ética en la integración de la IA en la investigación científica. Autores como Valenzuela (2023) y Cereceda-Monteoliva (2023) subrayan la necesidad indispensable de transparencia y la reducción
de sesgos algorítmicos, aspectos que este artículo también enfatiza. Estos consensos remarcan la urgencia de desarrollar marcos éticos sólidos que dirijan las aplicaciones de IA, asegurando que su uso en la producción científica incorpore principios de integridad y responsabilidad. De esta manera, los resultados presentados se alinean estrechamente con la literatura existente, reforzando la premisa de que la ética no es un complemento, sino una parte integral del uso de la IA en la ciencia.
Sin embargo, surgen divergencias en el enfoque específico y las soluciones propuestas para afrontar estos desafíos éticos. Este artículo sugiere que mediante la formación ética continua y el uso de herramientas de IA diseñadas para promover la equidad y mitigar los sesgos, Flanagin et al. (2023) indican que la solución principal reside en políticas editoriales más estrictas y directrices de autoría. Aunque ambos enfoques son válidos y no se excluyen mutuamente, tal divergencia apunta a la riqueza de estrategias que podrían ensayarse, dependiendo de los contextos específicos y las necesidades de investigadores e instituciones.
El debate también revela un área de desacuerdo respecto al papel de la IA en la autoría de textos científicos. Este artículo, en consonancia con Flanagin et al. (2023), argumenta firmemente contra la atribución de autoría a herramientas de IA, resaltando la necesidad de claridad en las contribuciones humanas. Por otro lado, otras corrientes en la literatura sugieren una visión más matizada que reconoce la contribución de la IA de manera que refleje su papel asistente en el proceso de investigación sin concederle autoría plena. Esta discrepancia subraya la complejidad del debate sobre autoría y contribución en la era de la IA, indicando que aún queda trabajo por realizar para alcanzar un consenso en la comunidad científica.
En cuanto a la aplicabilidad clínica y la explicabilidad de los resultados generados por la IA, este artículo comparte puntos en común con Wu et al. (2022) y Zhang et al. (2022), quienes resaltan la importancia de que los hallazgos de la IA sean claros e interpretables para los profesionales médicos. Esta convergencia refleja un reconocimiento generalizado de que, para que la IA tenga un impacto positivo en campos como la oncología, sus procesos y conclusiones deben ser accesibles y comprensibles para los practicantes médicos.
Limitaciones del Estudio
Aunque este artículo de revisión sistemática es exhaustivo en su enfoque y análisis, no está exento de limitaciones. Primero, la rápida evolución de la tecnología de inteligencia artificial y su
aplicación en la investigación científica puede hacer que las perspectivas y conclusiones se desactualicen rápidamente. Segundo, a pesar de los esfuerzos por abarcar una amplia gama de literatura, es posible que algunos estudios relevantes no hayan sido incluidos, lo cual podría limitar la amplitud de las perspectivas analizadas. Tercero, la naturaleza cualitativa de esta revisión, centrada en la interpretación y síntesis de hallazgos de diversos estudios, puede introducir sesgos subjetivos en la evaluación de las evidencias. Por último, la discusión sobre las implicaciones éticas y la integración de la IA en la producción de textos científicos se ha llevado a cabo principalmente desde una perspectiva académica, sin una consideración profunda de las perspectivas industriales o regulatorias, lo cual podría enriquecer el debate sobre este tema.
Recomendaciones para Futuras Investigaciones
Frente a estas limitaciones, se identifican varias áreas prioritarias para futuras investigaciones:
especialmente en campos críticos como la medicina, podría mejorar significativamente la adopción y el impacto positivo de estas herramientas en la investigación científica.
Al abordar estas áreas, las futuras investigaciones pueden avanzar significativamente en nuestra comprensión y aplicación de la IA en la producción de textos científicos, asegurando que se maximicen sus beneficios mientras se minimizan los riesgos éticos y prácticos asociados.
Este artículo de revisión sistemática ha revelado la complejidad inherente a la integración de la IA en la producción de textos científicos, resaltando tanto su potencial para transformar positivamente la investigación como los desafíos éticos que ello conlleva. Los hallazgos señalan una creciente conciencia dentro de la comunidad académica sobre la necesidad de abordar estos desafíos de manera proactiva. Se ha identificado la urgencia de desarrollar marcos éticos robustos para guiar la implementación de la IA, enfatizando la importancia de mantener la transparencia y mitigar los sesgos algorítmicos, así como la necesidad de claridad en las políticas de autoría para preservar la integridad académica. Además, se ha destacado la relevancia de la explicabilidad de las tecnologías de IA, especialmente en aplicaciones críticas como la medicina, donde la interpretación de los resultados es crucial.
Estos hallazgos convergen en la idea de que la ética debe ser un componente integral, no secundario, en el desarrollo y aplicación de la IA en la ciencia. Se ha revelado que es posible y necesario encontrar un equilibrio entre estos elementos, y la clave para esta reconciliación reside en la implementación de estrategias multidisciplinarias que incluyan el desarrollo continuo de marcos éticos, la educación en ética de la IA para investigadores, y la promoción de una cultura de investigación que valore tanto la innovación tecnológica como la integridad y transparencia científicas.
Al abordar proactivamente los riesgos éticos y metodológicos, mientras se aprovechan las ventajas que la IA ofrece para la producción de conocimiento, los investigadores pueden avanzar hacia una integración más ética y efectiva de la IA en la ciencia. Este artículo, por lo tanto,
contribuye a la literatura existente ofreciendo una síntesis comprensiva de los desafíos éticos asociados con la IA en la investigación científica y delineando un camino hacia su resolución. La convergencia de la ética y la tecnología en este campo representa no solo un desafío, sino también una oportunidad para redefinir las prácticas de investigación de maneras que mejoren la calidad, eficiencia y equidad de la producción científica. Siguiendo las recomendaciones y consideraciones éticas presentadas aquí, la comunidad investigadora puede asegurar que la integración de la IA en la ciencia se realice de manera que beneficie a la sociedad en su conjunto, respetando al mismo tiempo los principios fundamentales de la investigación ética.
Alvites-Huamaní, C. (2022). Ética profesional en la formación del estudiante de psicología de educación a distancia. Hamut Ay, 9(2). https://doi.org/10.21503/hamu.v9i2.2427
Anderson, L., Kanneganti, D., Houk, M., Holm, R., & Smith, T. (2023). Generative ai as a tool for environmental health research translation. https://doi.org/10.1101/2023.02.14.23285938
Arabyat, R., Qawasmeh, B., Al-Azzam, S., Nusair, M., & Alzoubi, K. (2022). Faculty members’ perceptions and attitudes towards anti-plagiarism detection tools: applying the theory of planned behavior. Journal of Empirical Research on Human Research Ethics, 17(3), 275-
283. https://doi.org/10.1177/15562646221078655
Arias Herrera, J. and Morales, G. (2022). La prospectiva de los clubes universitarios de ciencia, como estrategia de responsabilidad social universitaria en tabasco. Emerging Trends in Education, 4(8A), 1-24. https://doi.org/10.19136/etie.a4n8a.4722
Arzuaga-Salazar, M., Naranjo-Ramírez, G., & Zuleta-Salas, G. (2022). Problemáticas bioéticas y biojurídicas asociadas a los proyectos de investigación. Duazary, 19(3), 200-213. https://doi.org/10.21676/2389783x.4835
Beketov, V. and Lebedeva, M. (2022). Intellectual property and quality of education: exploring the academic integrity among medical students. Frontiers in Education, 7. https://doi.org/10.3389/feduc.2022.1012535
Brenes Maltez, P. M., Iglesias Martínez, M. J., Cabezas, I. L., & Arroyo Salgueira, S. (2022). El Desarrollo de Habilidades Actitudinales para la Labor Investigadora de Estudiantes en
Formación Docente: El Aprendizaje Autónomo, Crítico y Creativo. Paradigma: Revista De Investigación Educativa, 29(47), 93–114. https://doi.org/10.5377/paradigma.v29i47.14463
Canavilhas, J. (2023). Produção automática de texto jornalístico com IA: contributo para uma história. Textual & Visual Media, 17(1), 22-40.
https://doi.org/10.56418/txt.17.1.2023.2
Canavilhas, J. and Giacomelli, F. (2023). Inteligencia artificial en el periodismo deportivo: estudio en brasil y portugal. Revista De Comunicación, 22(1), 53-69. https://doi.org/10.26441/rc22.1-2023-3005
Celi, L., Cellini, J., Charpignon, M., Dee, E., Dernoncourt, F., Eber, R., … & Yao, J. (2022). Sources of bias in artificial intelligence that perpetuate healthcare disparities—a global review. Plos Digital Health, 1(3), e0000022. https://doi.org/10.1371/journal.pdig.0000022
Cereceda-Monteoliva, N. (2023). New technologies and new challenges: what effect will chatgpt have on plastic surgery research?. Plastic & Reconstructive Surgery, 152(5), 970e-971e. https://doi.org/10.1097/prs.0000000000010795
Ferrero, A., Andrea, N., & Lucero, F. (2022). Una revisión de la contribución de la ética en la investigación con seres humanos. algunos aportes al ámbito de la psicología. Revista Liminales Escritos Sobre Psicología Y Sociedad, 11(21), 53-83. https://doi.org/10.54255/lim.vol11.num21.654
Flanagin, A., Bibbins‐Domingo, K., Berkwits, M., & Christiansen, S. (2023). Nonhuman “authors” and implications for the integrity of scientific publication and medical knowledge. Jama, 329(8), 637. https://doi.org/10.1001/jama.2023.1344
García-Estrella, C. (2022). Buenas prácticas en el rol de la autoría en las publicaciones científicas. Revista Científica De Sistemas E Informática, 2(1), e284. https://doi.org/10.51252/rcsi.v2i1.284
Gaskins, N. (2022). Interrogating algorithmic bias: from speculative fiction to liberatory design.
Techtrends, 67(3), 417-425. https://doi.org/10.1007/s11528-022-00783-0
Geary, M. and Goggins, A. (2022). Assuring integrity in obstetrics and gynecology research. International Journal of Gynecology & Obstetrics, 158(2), 237-238. https://doi.org/10.1002/ijgo.14292
Gómez Rodríguez, D. T.., Abella, Y. C., & Pineda, C. A. R. (2017). Ecoturismo, turismo experiencial y cultural. una reflexión con estudiantes de administración de turismo. Revista Temas, 0(11), 229. https://doi.org/10.15332/rt.v0i11.1757
Guerrero-Solé, F., & Ballester C. 2023. El Impacto De La Inteligencia Artificial Generativa En La Disciplina De La comunicación. Hipertext.Net, 26, pp. 1-9, doi:10.31009/hipertext.net.2023.i26.01
Haro Sarango, A. F., Martínez Yacelga, A. P., Nuela Sevilla, R. M., Criollo Sailema, M. E., & Pico Lescano, J. C. (2023). Inteligencia de negocios en la gestión empresarial: un análisis a las investigaciones científicas mundiales: Business intelligence in business management: a review of worldwide scientific research. LATAM Revista Latinoamericana De Ciencias Sociales Y Humanidades, 4(1), 3367–3382. https://doi.org/10.56712/latam.v4i1.493
Hasanah, U. and Dewantara, A. (2022). The faculty awareness on plagiarism issue.. https://doi.org/10.2991/assehr.k.220402.009
Hernández-Gil, C. ., Cardozo-Jiménez, C. J. ., & Perdomo-Rojas, L. T. . (2023). Los desafíos de la dirección educativa en el fomento de habilidades científicas. Revista Latinoamericana De Ciencias Sociales, Niñez Y Juventud, 21(2), 1–33. https://doi.org/10.11600/rlcsnj.21.2.5191
Herrera Medina, Natalia, Rivera Gutiérrez, Sebastián, & Espinoza-Navarro, Omar. (2022). Ethical and Legal Framework in Scientific Research From Chile: Functioning of Accredited Scientific Ethics Committees. International Journal of Morphology, 40(4), 953- 958. https://dx.doi.org/10.4067/S0717-95022022000400953
Kargl, M., Plass, M., & Müller, H. (2022). A literature review on ethics for ai in biomedical research and biobanking. Yearbook of Medical Informatics, 31(01), 152-160. https://doi.org/10.1055/s-0042-1742516
Khan, K. and Chien, P. (2022). Letter to the editor: research and consensus is required concerning integrity of randomized clinical trials. International Journal of Gynecology & Obstetrics, 159(2), 613-613. https://doi.org/10.1002/ijgo.14394
Koçyiğit, B. and Akyol, A. (2022). Analysis of retracted publications from kazakhstan. Central Asian Journal of Medical Hypotheses and Ethics, 3(2), 111-118. https://doi.org/10.47316/cajmhe.2022.3.2.04
Kooli, C. and Muftah, H. (2022). Artificial intelligence in healthcare: a comprehensive review of its ethical concerns. Technological Sustainability, 1(2), 121-131. https://doi.org/10.1108/techs-12-2021-0029
Lopezosa, C. (2023). Generative Artificial Intelligence in Scientific Communication: Challenges and Opportunities. Revista de Investigación E Innovación En Ciencias de La Salud, 5(1), 1–5. https://doi.org/10.46634/riics.211
Maita-Cruz, Y. M., Flores-Sotelo, W. S., Maita-Cruz, Y. A., & Cotrina-Aliaga, J. C. (2022). Inteligencia artificial en la gestión pública en tiempos de Covid-19. Revista De Ciencias Sociales, 28, 331-330. https://doi.org/10.31876/rcs.v28i.38167
Manterola, C., Rivadeneira, J., Delgado, H., Sotelo, C., & Otzen, Tamara. (2023). ¿Cuántos Tipos de Revisiones de la Literatura Existen? Enumeración, Descripción y Clasificación. Revisión Cualitativa. International Journal of Morphology, 41(4), 1240- 1253. https://dx.doi.org/10.4067/S0717-95022023000401240
Medina Romero, M. Ángel. (2023). Las Herramientas de Inteligencia Artificial Orientadas al Fortalecimiento del Desarrollo de Investigaciones Científicas y Académicas: el Caso de Smartpaper.AI En América Latina. Ciencia Latina Revista Científica Multidisciplinar, 7(3), 7542-7553. https://doi.org/10.37811/cl_rcm.v7i3.6743
Michiels, P., Kessler, K., & Rogers, P. (2023). Paraphrase patterns of expert academic writers: implications for writing development, writing pedagogy, and plagiarism policies. Literatura Y Lingüística, (46), 153-189. https://doi.org/10.29344/0717621x.46.3133
Moreira Choez, J., Mera-Plaza, C., Hernández-Solís, A., & Lozada-Almendariz, F. (2022). Competencias en investigación de los docentes de institutos técnicos y tecnológicos en el contexto de la educación superior. Revista Científica Arbitrada De Investigación en
Comunicación Marketing Y Empresa Reicomunicar, 5(9), 8-28.
https://doi.org/10.46296/rc.v5i9.0033
Nakitare, J. and Otike, F. (2022). Plagiarism conundrum in kenyan universities: an impediment to quality research. Digital Library Perspectives, 39(2), 145-165. https://doi.org/10.1108/dlp-08-2022-0058
Navarro-Cabrera, J. (2022). Importancia de la investigación científica universitaria. Revista Científica Episteme Y Tekne, 1(1), e302. https://doi.org/10.51252/rceyt.v1i1.302
Paz-Enrique, L. (2023). Citas fantasmas en artículos científicos: problemática creciente ante el uso de la inteligencia artificial. Revista Médica Electrónica, 45(6), e5366. de https://revmedicaelectronica.sld.cu/index.php/rme/article/view/5366/5711
Pérez Ayala, M. (2022). Resguardos éticos de la investigación cualitativa en psicología. Avances En Psicología Latinoamericana, 39(3). https://doi.org/10.12804/revistas.urosario.edu.co/apl/a.10037
Román Acosta, D. (2023a). Aplicación de la inteligencia artificial en la investigación académica: caso ChatGPT. Finanzas Y Negocios, 3(2), 41-61.
http://revistas.ulatina.edu.pa/index.php/Finanzasynegocios/article/view/323
Román Acosta, D. D. (2023b). Más allá de las palabras: inteligencia artificial en la escritura académica. Escritura Creativa, 4(2). https://n9.cl/uwq1y
Rosique Cedillo, G. and Gómez, E. (2022). La producción científica en comunicación de las investigadoras españolas (2005-2015). Historia Y Comunicación Social, 27(1), 5-17. https://doi.org/10.5209/hics.71739
Ryan, M. (2022). The social and ethical impacts of artificial intelligence in agriculture: mapping the agricultural ai literature. Ai & Society, 38(6), 2473-2485. https://doi.org/10.1007/s00146-021-01377-9
Sadasivan, V.S., Kumar, A., Balasubramanian, S., Wang, W., & Feizi, S. (2023). Can AI- Generated Text be Reliably Detected? ArXiv, abs/2303.11156.
Santin Bertoni, A., Rodrigues, V., Zeiser, F., Mello, B., Costa, C., Donida, B., … & Righi, R. (2022). Internet das coisas de saúde: aplicando iot, interoperabilidade e aprendizado de máquina com foco no paciente., 1-47. https://doi.org/10.5753/sbc.10508.0.1
Suazo Galdames, I. (2023). Inteligencia artificial en investigación científica. SciComm Report, 3(1), 1–3. https://doi.org/10.32457/scr.v3i1.2149
Valenzuela, G. (2023). Desafío del uso de inteligencia artificial para la elaboración de la literatura ciéntífica: el caso de chatgpt, un debate abierto. Cuadernos Médico Sociales, 63(1), 27-31. https://doi.org/10.56116/cms.v63.n1.2023.1140
Wu, T., Yu, D., Zhang, T., Tian, W., Liu, H., & Yang, D. (2022). Research trends in the application of artificial intelligence in oncology: a bibliometric and network visualization study. Frontiers in Bioscience-Landmark, 27(9), 254. https://doi.org/10.31083/j.fbl2709254
Zhang, N., Guo, M., Jin, C., & Xu, Z. (2022). Effect of medical researchers’ creative performance on scientific misconduct: a moral psychology perspective. BMC Medical Ethics, 23(1). https://doi.org/10.1186/s12910-022-00876-8
Zhang, Y., Weng, Y., & Lund, J. (2022). Applications of explainable artificial intelligence in diagnosis and surgery. Diagnostics, 12(2), 237.
https://doi.org/10.3390/diagnostics12020237
mención en Biología y Química, por el Instituto Tecnológico Del Cibao Oriental (ITECO), actualmente UTECO, en Cotui, Prov. Sánchez Ramírez, R.D.
Los autores declaran que no existe ningún conflicto de intereses, que pueda haber influido en los resultados obtenidos o las interpretaciones propuestas.