¿Confusiones de la IA?
El presente artículo es sobre tecnología, cuidado con los niños, errores en la educación y aspectos éticos, diría que casi es de zona de escalofríos, pero creo que estaría alarmando demasiado, sin embargo, el siguiente planteamiento es importante tras la inminente evolución de la tecnología y su impacto en nuestra vida.
Por tanto, comencemos por decir que las IA son un grupo de algoritmos combinados para que en forma efectiva y velozmente generen respuestas solicitadas por los usuarios. Si, seguramente todas estas palabras técnicas hoy en día se hacen familiares: algoritmos como secuencias de pasos programados; programación: como combinación de códigos, y finalmente usuarios: como el componente humano que da instrucciones y espera respuestas. Pero justamente en esta combinación se pueden generar confusiones de la IA
¿Es esto posible?
Ciertamente, una confusión se presenta cuando falta claridad para entender las cosas en conjunto, o cuando diferentes alternativas se mezclan y no se encuentra la ideal. Pero partiendo del hecho de que una IA es creada para generar respuestas acertadas, es muy aterrador.
Todo lo anterior es la introducción tras un hecho que evidencié, pues una de mis amigas me comentó que ayudando a su niño con las asignaciones para el colegio, su IA le generó respuestas incorrectas, era un tema muy básico, ya que se trataba de datos biográficos de un personaje de la historia del país, por lo cual ella lo pudo detectar tras la lectura.
Era de esperarse que yo dudara un poco de lo ocurrido, pero ella me hizo llegar capturas y efectivamente el chat con IA le respondía cosas como que el Libertador Simón Bolívar había muerto en Sudáfrica, al corregirlo se excusaba diciendo que quiso decir Sur América, y luego proseguía afirmando que había muerto en Ecuador, todo con un emoji de sonrisa al final.
Esto del emoji, me hizo entender que la IA no estaba confundida, estaba creando un reto ante las preguntas que habían sido mal formuladas, yo no estaba tan convencida de las “confusiones de la IA”, así que me tomé el trabajo de la descarga, instalación y prueba del mismo chat IA, luego de plantearle algunos temas de historia, llegué a la biografía del Libertador Simón Bolívar y la respuesta fue correcta en toda la información que me mostraba como respuesta. Devolví las capturas a mi amiga y ella me decía… ¿Por qué se confundió conmigo?
AI confusions?
This article is about technology, care with children, mistakes in education and ethical aspects, I would say that it is almost a shiver zone, but I think I would be alarming too much, however, the following approach is important after the imminent evolution of technology and its impact on our lives.
So, let's start by saying that AIs are a group of algorithms combined to effectively and quickly generate answers requested by users. Yes, surely all these technical words are nowadays familiar: algorithms as sequences of programmed steps; programming: as a combination of codes; and finally users: as the human component that gives instructions and waits for answers. But it is precisely this combination that can lead to confusion about AI.
Is this possible?
Certainly, confusion arises when there is a lack of clarity in understanding things as a whole, or when different alternatives are mixed up and the ideal one is not found. But starting from the fact that an AI is created to generate accurate answers, it is very scary.
All the above is the introduction after a fact that I evidenced, because one of my friends told me that helping her child with school assignments, her AI generated incorrect answers, it was a very basic topic, since it was about biographical data of a character in the history of the country, so she could detect it after reading.
It was to be expected that I doubted a little of what happened, but she sent me screenshots and indeed the chat with AI answered things like that the Liberator Simon Bolivar had died in South Africa, when she corrected it she excused herself saying that she meant South America, and then continued stating that he had died in Ecuador, all with a smile emoji at the end.
This emoji made me understand that the AI was not confused, it was creating a challenge to the questions that had been wrongly formulated, I was not so convinced of the "confusions of the AI", so I took the trouble to download, install and test the same AI chat, after asking it some history topics, I got to the biography of the Liberator Simon Bolivar and the answer was correct in all the information that it showed me as an answer. I returned the screenshots to my friend and she was telling me... Why was she confused with me?
Evidentemente, la respuesta era sencilla de determinar, era el “usuario”, pero como a veces nos toca también ser sensibles ante nuestros semejantes, solo le expliqué a mi amiga que a veces la IA confundía algunas líneas de la conversación, e igual le recomendé evitar emojis, o usar la IA para cosas sin importancia.
En resumen, creo que este chat de IA se estaba alimentando de su forma de plantearle las interrogantes y comenzó a crear un juego para ella; y allí es donde veo lo tenebroso del asunto, sin siquiera llegar a lo que puede querer la IA con esto.
Evidentemente no puedo cerrar este articulo sin hacer una llamado, en donde mi incluyo como madre, para decir que las IA no son un juego, no son asistente de la educación de nuestros hijos y que pueden resultar a veces contraproducente si no tienen una supervisión adecuada, podrían resultar en errores de la educación que terminen logrando calificaciones bajas en el rendimiento de los pequeños.
Personalmente soy pro IA, porque no debemos detener la educación, ni el alcance de las tecnologías, pero si no nos formamos en el uso de las misma podríamos generar confusiones como usuarios no tan ideales.
Evidently, the answer was simple to determine, it was the "user", but as sometimes we also have to be sensitive to our fellows, I just explained to my friend that sometimes the AI confused some lines of the conversation, and I also recommended her to avoid emojis, or to use the AI for unimportant things.
In short, I think this AI chat was feeding on her way of asking her questions and started to create a game for her; and that's where I see the scary part of it, without even getting to what the AI might want with this.
Obviously I cannot close this article without making a call, where I include myself as a mother, to say that AIs are not a game, they are not an assistant in the education of our children and that they can sometimes be counterproductive if they do not have adequate supervision, they could result in errors in education that end up achieving low grades in the performance of the little ones.
Personally I am pro AI, because we should not stop education, nor the scope of technologies, but if we are not trained in the use of the same we could generate confusion as not so ideal users.
Imágenes propias. Las centrales creadas con IA Bing y Portrait -Vana. Editadas para los mensajes usando la aplicación de diseños Canva. Translated with www.DeepL.com/Translator (free version)
