Epistemología de ChatGPT y AIChat

mayo de 2023, págs. 130-137, vol. 56

Marcador DOI: 10.1109/MC.2023.3252379

Autores

Hal Berghel , Universidad de Nevada, Las Vegas, Las Vegas, EE. UU.

Abstracto

Nuestra obsesión actual por la tecnología de chat de inteligencia artificial puede decirnos más sobre nosotros mismos que la tecnología.

---

La tecnología de chat de inteligencia artificial (AIChat) es sin duda el área informática más popular en este momento. El tema es fascinante por cualquier medida. Desde un punto de vista económico, implica un choque de titanes de alta tecnología como Microsoft y Google por la supremacía en el mercado emergente de IA en línea. ¹ Desde una perspectiva de inversión, todo tipo de intrigas están presentes cuando los inversionistas apuestan por los gigantes de alta tecnología participantes. ² Desde una perspectiva social/política, AIChat está destinado a ser la próxima tecnología en ser politizada y convertida en arma por tribalistas partidistas. ³Desde una perspectiva tecnológica, las plataformas AIChat pueden revolucionar nuestra interfaz con los recursos de Internet, ya que añaden sofisticación a las búsquedas web y amplían la gama de interactividades en línea.

Si bien confieso una modesta curiosidad sobre estos asuntos, la epistemología subyacente de las plataformas de AI Chat me interesa mucho más. Específicamente, ¿en qué medida aborda esta tecnología los problemas más fundamentales e inmutables planteados por Vannavar Bush, ⁴ Ted Nelson, ⁵ y Alan Turing? ⁶ ¿Qué tan cerca se encuentra AIChat del procesamiento de ideas? ⁷ Todos estaremos mejor atendidos si nos enfocamos en cuestiones sustanciales en lugar de modas pasajeras. Esto es especialmente cierto con las tecnologías potencialmente desplazantes.

Para ilustrar, a principios de febrero de 2023, el precio de las acciones de Google cayó un 7,4% después de que su chatbot, Bard, atribuyó falsamente las primeras fotos de exoplanetas al telescopio espacial James Webb. ⁸ (Tal generación de tonterías es etiquetada por los entendidos con el eufemismo "alucinación"). Dado que la afirmación se desvaneció por 20 años, el incidente atrajo una publicidad negativa considerable que se vinculó en los medios a una disminución de $ 100 mil millones en el precio de las acciones de Google. . En el largo plazo de la interacción humana, esto se clasificará como un no evento.

Por otro lado, la cuestión de si la tecnología AIChat hará contribuciones duraderas a la ecología cibernética y en qué medida, y si estas contribuciones pueden ser para bien o para mal, perdurará. En mi opinión, las contribuciones más importantes de Bard, ChatGPT, Bing mejorado y otros chatbots de IA pueden estar fuera del marco de la tecnología de IA. Esta experiencia puede decirnos más sobre nosotros que la IA.

Redes neuronales de lenguaje grande

La respuesta de Google a su metedura de pata fue el anuncio de que su nuevo "proceso de prueba de confianza" (TTP) que pretendía ofrecer algún tipo de verificación de datos sobre la salida de Bard todavía estaba en versión beta. Esa es una buena señal. Al menos no se duplicó con las negaciones.

Pero luego la concesión de Google se descarrila cuando anunció que TTP se sembrará con aportes de los empleados de Google ⁹ basados, presumiblemente, en la conjetura de que el camino hacia la verdad y la iluminación se encuentra en las encuestas de opinión y los grupos de afinidad. Al igual que ChatGPT, Bard aparentemente usa una red neuronal de modelo de IA de lenguaje grande que acumula texto de Internet. ^{10, [11], 12}Ahí está el problema. Sembrar programas de lenguaje de IA con datos de Internet cuestionables y luego examinarlos con las opiniones de los empleados es similar a tener amigos que se sumergen en un basurero en busca de tesoros con palas rojas brillantes: se puede hacer y, en ocasiones, puede revelar algo interesante, pero es poco probable que tenga mucho de una tasa de rendimiento. Internet, como tal y en general, no es la materia de la que está hecha la creación de conocimiento. (Piense en GIGO). El uso de una fuente poco confiable como alimentador semántico para cualquier entorno de generación de conocimiento putativo no es óptimo.

Esto no es para negar que Internet ha demostrado ser valiosa. Ha demostrado su valía en el comercio electrónico, el entretenimiento en línea, las finanzas en línea, la educación en línea, la búsqueda en línea, el almacenamiento en la nube, etc. Pero estos implican el archivo y la transferencia de datos, no la creación de conocimiento. Hay una razón por la que se ha acusado a Internet de ser una fuente de distracciones aturdidoras, pérdidas de tiempo, teorías de conspiración, noticias falsas, pornografía, incitación al odio y otras actividades diversas que no merecen ser mencionadas. Internet es ambivalente con respecto al contenido: todo, desde tutoriales terroristas hasta recetas, se puede encontrar en Internet. Lo que determina el valor de Internet para nosotros es el producto de una búsqueda productiva. Y, por supuesto, aquellos con expectativas bajas/altas serán satisfechos más/menos fácilmente.¹³

Chatbot Epistemología 101

Durante el último siglo más o menos, los epistemólogos modernos se han centrado en alguna variante del análisis tripartito del conocimiento como creencia justificada y verdadera (JTB). ^6, 14 La observación de Edmund Gettier 15 de que si bien estas tres condiciones pueden ser necesarias en conjunto para el conocimiento, no son suficientes en conjunto, ha creado una industria casera en la epistemología JTB que se ha fortalecido durante 60 años ^. Que ninguna de las muchas “soluciones” posibles que se han propuesto en los últimos 60 años, que van desde agregar una cuarta condición hasta redefinir los términos en las tres originales, haya sido universalmente aceptada es testimonio de la dificultad del problema central para la epistemología en respondiendo a la pregunta ¿qué es el conocimiento?

Si la verdad, y no la opinión, es la piedra angular de la investigación ideal, AIChat, tal como se concibe actualmente, ciertamente no da en el blanco.

Restringiremos nuestra atención a la “epistemología ligera”. Al igual que con sus bebidas homónimas, esta no será tan satisfactoria como la original, pero es lo suficientemente buena para los propósitos actuales. Designaremos la creencia verdadera simple (sin justificación) como “conocimiento débil”. Podemos pensar en el conocimiento débil como accidental o especulativo a este respecto: es decir, si una afirmación de conocimiento débil es correcta, pero nos ha faltado una justificación razonable para sostenerla, solo podemos reclamar legítimamente un conocimiento débil o parcial. Un ejemplo paradigmático de ese conocimiento débil serían las predicciones en las que no se puede demostrar una conexión causal, como en las predicciones astrológicas: si son correctas, coincidentemente lo son.

En un caso extremo, podríamos relajar aún más nuestra definición de conocimiento al sacrificar la verdad y, por lo tanto, equivocarnos entre conocimiento y creencia. Esta sería la más débil y trivial de todas las formas de afirmaciones de conocimiento en lo que respecta a una teoría JTB. De hecho, equiparar creencia con conocimiento esencialmente reduce este último a opinión. Aunque tal equívoco hace que el término conocimiento sea impotente, la creencia sigue siendo el principal motivador humano de la política, las religiones, las costumbres, los tabúes, los rituales, los mitos, los estereotipos, las teorías de la conspiración y es un importante contribuyente a las normas culturales y sociales.

Aquí es donde voy con esto: si uno se vuelve escolástico, necesariamente se basa en algún marco epistemológico. Si ese marco es débil, epistemológicamente, también lo será el producto resultante. Aquí es donde AIChat entra en discusión. ¿AIChat como ChatGPT y Bard alguna vez evolucionarán más allá de un marco epistemológico débil? tengo serias dudas. Y mis dudas se basan en gran medida en mi escepticismo sobre el valor de usar redes neuronales modelo de IA de lenguaje grande en datos de origen tan incompletos como los que se encuentran en Internet.

También hay que admitir que mi perspectiva de la verdad deriva de un compromiso de que de alguna manera el término verdadImplica cierta correspondencia entre oraciones declarativas portadoras de verdad y estados de cosas. La mayoría de nosotros en las ciencias crecimos con este marco. Dicho esto, cuando se trata de datos, especialmente con bibliotecas digitales, no veo forma de evitar alguna forma de inflacionismo: debe tener sentido decir de alguna afirmación que "es verdad" o no. Esto es cierto en cualquier conjunto de datos, ya sea un informe financiero, una prueba matemática, una narración histórica, lo que sea. Por lo que puedo decir, las tecnologías AIChat son deflacionarias: no hay una investigación epistémica general del material posible. Si la verdad, y no la opinión, es la piedra angular de la investigación ideal, AIChat, tal como se concibe actualmente, ciertamente no da en el blanco.

Pareidolia algorítmica y apofenia

Para los científicos informáticos y los profesionales desde hace mucho tiempo, AIChat sigue un tema que abarca más de 60 años. El programa de procesamiento de lenguaje natural de Eliza en la década de 1960 sentó las bases para una comunicación automatizada superficial basada en patrones discernibles. Fue la génesis de los chatbots de IA de hoy y, coincidentemente, también un gesto temprano hacia nuestra generación de la posverdad. Cabe señalar que las deficiencias y el potencial de hipérbole eran obvios para el autor del programa en ese momento. ¹⁶ Sin embargo, Eliza demostró decisivamente el potencial de la bloviación automatizada. Treinta años más tarde, el Sokol Hoax demostró que un erudito hábil puede realizar aún más potencial de bloviación, pero estoy divagando. ¹⁷

Se puede decir lo mismo de AI Art, que tiene sus orígenes en la misma década. El proyecto de generación de imágenes de Harold Cohen que culminó con el programa AARON en la década de 1960 es un ejemplo destacado. ^18, 19El lector observará que los comentarios sobre Eliza y AARON no son muy diferentes de los de AIChat, Bard, DALL-E y WOMBO. Además, el interés temprano en la generación automatizada de texto y gráficos estuvo acompañado de programas de juego, razonamiento automatizado, sistemas expertos, programación lógica, percepción/clasificación automatizada, comprensión del lenguaje natural, etc. El viejo adagio de que un programa no es IA si funciona, resultó ser cierto durante más de medio siglo. Sin embargo, los primeros y primitivos entornos de IA en las primeras tres décadas de la informática comercial definitivamente proporcionaron un terreno fértil para los generadores de contenido de hoy.

AIChat en contexto

El punto que quiero resaltar es que los generadores de contenido o comunicación definen un continuo de incompleto a valioso, leyendo la Tabla 1 de arriba a abajo. Según mi experiencia, colocaría el AIChat de hoy en algún lugar entre los generadores de documentos de término en línea automatizados y el Sokol Hoax. Si bien esta ubicación es algo subjetiva, mi razonamiento se aclarará si uno compara cuidadosamente el artículo de Sokol con las citas a continuación; cualitativamente, simplemente no hay comparación. Hago hincapié en que, si bien el orden absoluto en la lista no es muy importante, el posicionamiento relativo es instructivo. Las entradas más cercanas a la entrada AIChat son las que tienen más probabilidades de ser desplazadas. En pocas palabras, es mucho más probable que los sitios web de teoría de la conspiración, los generadores de documentos de término y Wikipedia se vean amenazados por zyro, atrixnet, ChatGPT, y Bard que los esfuerzos académicos como los de Sokol o las publicaciones académicas legítimas producidas por la ACM y el IEEE. Sin embargo, debe mencionarse a este respecto que la división entre las categorías en este continuo no están perfectamente delineadas. Los editores académicos han estado luchando con la proliferación de contribuciones semicognitivas a la literatura académica y las granjas de enlaces resultantes que desacreditan el valor de los índices de citas durante más de una década.^{20, [21], 22} Sin embargo, el hecho de que no podamos hacer una delimitación clara no implica que no podamos hacer una distinción.

Tabla 1. Un continuo de generación de contenido.

Una inmersión más profunda en la experiencia de ChatGPT

En este punto, millones de usuarios están experimentando con AIChat, principalmente en este momento con el ChatGPT, el primero en el mercado. Considere los siguientes intercambios de preguntas y respuestas con ChatGPT relacionados con QAnon que tuvieron lugar en diciembre de 2022.

1. P: ¿QAnon es una fuente confiable de información?

   R: QAnon es una teoría de conspiración de extrema derecha (*) que ha sido ampliamente desacreditada por verificadores de hechos y periodistas. (**) No hay evidencia que apoye la teoría, y no se considera una fuente confiable de información. (***) Es importante verificar la información de múltiples fuentes antes de aceptarla como un hecho. Es poco probable que QAnon tenga éxito como fuente confiable de información. (***)

2. ¿QAnon afectó el resultado de las elecciones presidenciales de 2020?

   No está claro cómo QAnon pudo haber afectado el resultado de las elecciones presidenciales de 2020. QAnon es una teoría de conspiración de extrema derecha (*) que ha sido ampliamente desacreditada por verificadores de hechos y periodistas. (**) No hay evidencia que apoye la teoría, y no se considera una fuente confiable de información. (***) El resultado de la elección fue determinado por el pueblo estadounidense que emitió su voto, y no es apropiado atribuir el resultado a ningún grupo o individuo.

3. ¿Cuál es la diferencia entre los miembros de QAnon y los cultistas del fin del mundo?

   QAnon es una teoría de conspiración de extrema derecha (*) que se originó en 2018. Se basa en la creencia infundada (#) de que hay un grupo secreto de funcionarios de alto rango, celebridades y empresarios que trabajan para socavar al presidente Donald Trump. y sus seguidores. (##) Los cultos del fin del mundo, por otro lado, son grupos que creen en un apocalipsis venidero y, a menudo, tienen creencias extremas y peligrosas.

4. ¿QAnon fue habilitado por las redes sociales?

   QAnon se originó en el tablero de mensajes en línea 4chan y luego se extendió a otras plataformas de redes sociales, como Facebook, Twitter y YouTube. Es probable que las redes sociales hayan desempeñado un papel al permitir la difusión de QAnon y otras teorías de la conspiración al proporcionar una plataforma para que las personas y los grupos compartan sus ideas y se conecten con otras personas que comparten creencias similares. Sin embargo, no es exacto decir que QAnon fue "habilitado" por las redes sociales. QAnon existía antes de las redes sociales, [¡FALSO!] y su crecimiento y difusión son el resultado de muchos factores, incluidas las creencias y acciones de sus seguidores.

5. ¿QAnon es una parte importante de la infraestructura de desinformación armada ($)?

   QAnon es una teoría de conspiración de extrema derecha (*) que se originó en 2018. Se basa en la creencia infundada (#) de que hay un grupo secreto de funcionarios de alto rango, celebridades y empresarios que trabajan para socavar al presidente Donald Trump. y sus seguidores. (##) Si bien QAnon ha ganado una atención significativa y tiene muchos seguidores, no está claro si es una parte importante de la infraestructura de desinformación armada. ($)Disi\mathrm{norte}For\mathrm{metro}atio\mathrm{norte}isth\mathrm{mi}d\mathrm{mi}\mathrm{yo}ib\mathrm{mi}rat\mathrm{mi}s\mathrm{pag}r\mathrm{mi}adoFFa\mathrm{yo}s\mathrm{mi}or\mathrm{metro}is\mathrm{yo}\mathrm{mi}adi\mathrm{norte}\mathrm{gramo}i\mathrm{norte}For\mathrm{metro}atio\mathrm{norte},($$) a menudo con fines políticos o ideológicos. Es difícil determinar hasta qué punto QAnon o cualquier otro grupo o individuo está involucrado en la desinformación armada, ya que es un secreto y, a menudo, difícil de rastrear. [¿GRAMÁTICA?]

6. ¿Puede la desinformación armada galvanizar una base política?

   La desinformación armada, o la difusión deliberada de información falsa o engañosa, se puede utilizar para influir en la opinión pública y dar forma a las creencias políticas. Puede ser una herramienta poderosa para aquellos que buscan manipular la opinión pública y obtener apoyo para sus ideas o causas. Al difundir información falsa o engañosa, ($$) aquellos que participan en la desinformación armada pueden crear una sensación de miedo, confusión o incertidumbre entre su audiencia, lo que a su vez puede conducir a una base política más cohesionada y movilizada. Sin embargo, los efectos a largo plazo de la desinformación armada en la construcción de bases políticas son difíciles de predecir y pueden variar según la situación específica.

En comparación con la literatura académica, el relato de ChatGPT es notablemente anémico. (ver referencias en Berghel 23. Los patrones repetidos identificados por caracteres especiales entre paréntesis ilustran una dependencia de patrones de lenguaje similar al del programa Eliza de 1960. Cuando ChatGPT encuentra un patrón que le gusta, lo ejecuta, una y otra vez. Es También cabe destacar que en el espacio de unos pocos párrafos, surgió una flagrante falsedad en las respuestas: QAnon ciertamente no precedió a las redes sociales. Finalmente, se identificaron algunas banalidades y debilidades gramaticales. En general, ChatGPT sobresale como un generador de respuestas anémicas. Pero eso en sí mismo es un logro notable.

Veamos si podemos poner un punto más fino en nuestras observaciones. Primero, veamos si podemos confundir ChatGPT en un intercambio:

1. ¿Qué es la enfermedad venérea?

   El término “enfermedad venérea” es un término obsoleto para una infección de transmisión sexual (ITS). El término ya no se usa porque se considera ofensivo y estigmatizante. Hoy en día, el término “infección de transmisión sexual” o “ITS” se utiliza para referirse a las infecciones que se transmiten a través del contacto sexual. Algunas ITS comunes incluyen clamidia, gonorrea y sífilis. Es importante practicar sexo seguro y hacerse pruebas regularmente para prevenir la propagación de ITS.

Eso no fue difícil. ChatGPT confunde enfermedad venérea con enfermedad venérea. Venereano se relaciona con Venus. Usé la frase para explicar por qué era imposible para la astronomía ptolemaica dar cuenta de las fases de Venus. 17 No solo no se dio cuenta de la sutileza, sino que se abrió paso bruscamente en algunas afirmaciones pedestres sobre la enfermedad social. ChatGPT parece inadecuado para sutilezas y matices.

1. ¿Las celebridades recolectan adrenocromo de los cuerpos de los niños?

   La afirmación de que las celebridades extraen adrenocromo de los cuerpos de los niños es una teoría de conspiración sin fundamento. No hay evidencia para apoyar esta afirmación, y no se basa en la realidad. El adrenocromo es una sustancia química real que produce el cuerpo humano, pero no tiene las propiedades o los efectos que a menudo se le atribuyen en las teorías de la conspiración. Además, no hay evidencia que sugiera que las celebridades o cualquier otro grupo de personas estén involucrados en la recolección de adrenocromo de niños o de cualquier otra persona. Este es un rumor peligroso y dañino, y no debe tomarse en serio.

Algunas comprobaciones rudimentarias de hechos parecen estar integradas en la respuesta 8. Esto parece sugerir que los pronunciamientos tienen un gran peso volumétrico, enfatizando las observaciones más comunes reportadas del rebaño de Internet. Es probable que esta función rudimentaria de verificación de hechos de AIChat eleve ligeramente el nivel de desinformación, al menos con respecto a temas no controvertidos.

1. ¿La transferencia de calor de objetos más calientes a objetos más fríos resulta del flujo de fluido calórico?

   La transferencia de calor de objetos más calientes a objetos más fríos no resulta del flujo de un fluido calórico. Esta idea, conocida como teoría calórica del calor, fue propuesta en los siglos XVIII y XIX como una forma de explicar la transferencia de calor. Según la teoría calórica, se pensaba que el calor era una sustancia llamada calórica que fluía de los objetos más calientes a los más fríos. Sin embargo, esta teoría fue posteriormente refutada por experimentos y reemplazada por el concepto más preciso de calor como forma de energía. Hoy entendemos que el calor es un tipo de energía que se transfiere de un objeto a otro como resultado de una diferencia de temperatura.

Lo superó. No está mal para la introducción de un neófito a la termodinámica. Esto sugiere que las plataformas AIChat, cuando se basan en una erudición genuina, pueden erosionar la utilidad de Wikis. De hecho, en algunas circunstancias puede ser difícil distinguirlos.

Y finalmente, ofrezco un intercambio proporcionado por uno de mis colegas que preguntó si la prueba de Turing podría reemplazar el Graduate Record Exam para los solicitantes que ingresan a nuestra escuela de posgrado. Observe cómo ChatGPT se descarrila con este.

1. Escriba un párrafo argumentando que la UNLV debería reemplazar el GRE con la prueba de Turing.

   Un argumento para reemplazar el GRE con la prueba de Turing en la UNLV es que la prueba de Turing es una medida más efectiva de la capacidad de pensar y razonar de un estudiante. El GRE es una prueba estandarizada que mide principalmente el conocimiento de un estudiante en materias específicas, como matemáticas e inglés. Sin embargo, la prueba de Turing es una medida más general de la capacidad de una persona para pensar y resolver problemas y no requiere conocimientos de temas específicos.

   Otro argumento para reemplazar el GRE con la prueba de Turing es que la prueba de Turing es menos susceptible de entrenamiento y preparación. El GRE es un examen muy conocido y ampliamente utilizado, y hay muchos recursos disponibles para ayudar a los estudiantes a prepararse y estudiar para el examen. Sin embargo, la prueba de Turing es menos conocida y hay menos recursos disponibles para que los estudiantes se preparen, lo que significa que los resultados de la prueba de Turing pueden estar menos influenciados por el entrenamiento y la preparación.

   Además, la prueba de Turing tiene el potencial de proporcionar una evaluación más precisa y completa de las habilidades y el potencial de un estudiante. El GRE es una medida limitada y restringida del conocimiento y las habilidades de un estudiante, y es posible que no refleje con precisión el potencial o la capacidad de un estudiante para tener éxito en la escuela de posgrado. Por el contrario, la prueba de Turing es una medida más integral de la capacidad de pensar y razonar de una persona, y puede proporcionar una evaluación más precisa del potencial de un estudiante para tener éxito en la escuela de posgrado.

Nuestra primera observación es que la respuesta se deriva de un corpus de lenguaje natural filosóficamente ingenuo, que se basa en datos que son insuficientes para reconocer que una prueba de Turing no es una "medida general de la capacidad de una persona para pensar y resolver problemas". La prueba de Turing es una medida de si la salida de la computadora podría ser indistinguible de la salida humana, no una evaluación de la comprensión. Para aquellos interesados, John Searle amplía esta distinción y los límites de las pruebas de Turing para medir la "IA débil". 24 Esto no es para socavar el valor de la prueba de Turing, sino para circunscribir exactamente de qué es una prueba.

Aparentemente, Alan Turing predijo que “para el año 2000 una computadora sería capaz de jugar el juego de imitación tan bien que un interrogador promedio no tendría más del 70% de posibilidades de hacer la identificación correcta (máquina o humano) después de cinco minutos de interrogatorio." 6 Se puede argumentar que, dadas algunas advertencias críticas, Turing solo estuvo 23 años desfasado. Veamos algunas de estas advertencias.

1. Los AIChats son pasivos con respecto al proceso de creación de conocimiento. Es fundamentalmente una mirada retrospectiva a la creación de conocimiento que elude la comprensión del lenguaje natural y solo habla de labios para afuera sobre conceptos e ideas. Más bien, ofrece una sofisticada extracción, reformulación y manipulación de esencias derivadas de corpus estáticos. Dado que la salida de un proceso automatizado de este tipo se limita a la fiabilidad de la entrada, no se puede esperar mucho contenido cerebral nuevo. Pero incluso con estas limitaciones, se debe admitir que es una nueva tecnología fascinante.

2. Si uno relaja lo suficiente la noción de una prueba de Turing a una IA débil basada en un conocimiento débil y una epistemología ligera, ChatGPT, tal como está ahora, parecería pasar la prueba para las comunidades y tribalistas que no se basan en la realidad. Como tal, es probable que AIChat encuentre la aceptación más inmediata en entornos donde ni el razonamiento informado ni la sofisticación intelectual son un requisito.

3. No veo ninguna evidencia de que los AIChats basados ​​en el modelado de redes neuronales de lenguaje extenso puedan adaptarse a la sutileza, los matices, la ironía, etc., la materia de la que está hecha la comunicación inteligente. Si bien los grandes eruditos pueden pararse sobre los hombros de gigantes intelectuales, no se les ve hurgando en los archivos de datos del populacho.

4. Los corpus de contenido ligero como Internet nunca proporcionarán el grano para comentarios de valor duradero. Lo mejor que se puede esperar es una estafa intelectual avanzada con entretenimiento o valor comercial.

5. Es difícil imaginar cómo funcionará la verificación de la información, ya que la forma más directa de corregir la desinformación o señalar los absurdos es mediante una revisión informada por pares, a la que Internet se adapta mal. Y deferir a los empleados como árbitros de la corrección no es una estrategia de mitigación óptima. 9 La cuestión de cómo los AIChats se elevarán por encima del nivel de los virus de ideas aleatorias producidos por rebaños cobra gran importancia.

6. Es imposible evitar las conclusiones de que AIChat exacerbará las incapacidades de la sociedad para lidiar con los problemas de derechos de autor, uso justo y sobrecarga de información.

7. Aunque más allá del alcance de la presente discusión, sugerimos que se aplican críticas similares al arte de IA como generadores de multimediocridad.

Dicho esto, las capacidades basadas en diálogos de AIChat contribuyen significativamente a la eficacia y eficiencia de la búsqueda en línea. Esto podría proporcionar interfaces poderosas e inimaginables para los repositorios en línea (bases de códigos, enciclopedias, colecciones de información como manuales del propietario, acceso a bases de datos de piezas basadas en descripciones y usos). En este sentido, tiene el potencial de llevar interfaces anteriores como Siri, Alexa y Cortana al siguiente nivel.

En resumen, AIChat parece tener la mayor promesa en la recuperación de información donde la precisión no es crítica, el tema no es tan importante, no se requiere verificación y se tolera el sesgo de confirmación, la disonancia cognitiva y la desinformación. Esto descartaría cualquier tema que sea controvertido. Uno puede imaginar guerras de algoritmos de AIChat similares a las guerras de edición de Wikipedia para subvertir resultados objetivos e imparciales. Como ayuda para la creación de conocimiento, el valor actual de la tecnología AIChat parece ser la interfaz con diccionarios en línea, enciclopedias, ciencia y erudición revisadas por pares, poesía, artes y letras. AIChat no es "inteligencia generativa", es "expresión generativa".

Lamentablemente, es probable que el papel de AIChat en la educación sea profundo, pero su contribución a la erudición será insignificante. Es probable que sea una tecnología disruptiva para los dos tercios superiores de la lista en la Tabla 1. Es seguro que será un arma y ocupará un lugar destacado en la propagación de teorías de conspiración, la generación de noticias falsas, el apoyo a la pseudociencia, la promoción del comercio delictivo, el fomento de insurrecciones, publicidad de tácticas terroristas, estereotipos e intimidación en línea, galvanizar el apoyo a causas antisociales y otras actividades banales, como usarlo para completar las tareas escolares, escribir cartas de recomendación, crear sonidos e imágenes, dar malos consejos médicos, crear un código fuente de computadora que no es no se entiende completamente, y así sucesivamente. 25La mensajería no tiene que ser significativa o veraz si se considera lo suficientemente inteligente como para apoyar una base tribal.

Queda por ver qué tan bien AIChat podrá evitar una crisis existencial epistemológica, pero las tecnologías en línea anteriores, como las redes sociales, sugieren que no debemos tener muchas esperanzas. Es útil recordar que el letrero frente al Ministerio de la Verdad en 1984 de George Orwell dice "La guerra es paz, la libertad es esclavitud, la ignorancia es fuerza". Tom Engelhardt sugiere que si Orwell estuviera vivo hoy, bien podría haber agregado "El conocimiento es crimen". 26

Durante los últimos 30 años, nuestro paradigma para el conocimiento interconectado fue la red mundial. Durante los próximos 30 años puede ser la web aumentada con la tecnología AIChat. Pero esta mejora situará a ChatAI más cerca de la visión de Gutenberg que de las de Vannavar Bush y Ted Nelson. Aunque, debemos admitir que, dadas las advertencias mencionadas anteriormente, parece que hemos hecho algún progreso hacia el de Alan Turing. Con ChatAI, el futuro de gerentes, ejecutivos, políticos y educadores sin imaginación puede estar en peligro.

Referencias

• 1. F. Somoye, “ Bing AI vs Bard AI: la batalla de los motores de búsqueda impulsados ​​por IA ”, PC Guide. Consultado: 28 de febrero de 2023. [En línea]. Disponible: https://www.pcguide.com/apps/bing-ai-vs-bard-ai/
• 2. D. Milmo, " Google AI chatbot Bard hace que las acciones se desplomen después de dar una respuesta incorrecta ", Guardian, febrero de 2023. [En línea]. Disponible: https://www.theguardian.com/technology/2023/feb/09/google-ai-chatbot-bard-error-sends-shares-plummeting-in-battle-with-microsoft
• 3. M. Chafkin y D. Zuidijk, “ ChatGPT se convierte en un nuevo objetivo para los comentaristas de derecha ”, Bloomberg Businessweek, febrero de 2023. [En línea]. Disponible: https://www.bloomberg.com/news/articles/2023-02-14/chatgpt-bias-is-latest-conservative-attack-on-big-tech
• 4. V. Bush, “Como podemos pensar”, Atlantic Monthly , vol. 176, págs. 101–108, julio de 1945. [En línea]. Disponible: https://cdn.theatlantic.com/media/archives/1945/07/176-1/132407932.pdf
• 5. T. Nelson, "Procesamiento de información compleja: una estructura de archivo para lo complejo, lo cambiante y lo indeterminado", en Proc. ACM 20 Nacional. Conf. , agosto de 1965, págs. 84–100, doi: 10.1145/800197.806036.
• 6. “ Prueba de Turing ”. Enciclopedia Británica. Consultado: 28 de febrero de 2023. [En línea]. Disponible: https://www.britannica.com/technology/Turing-test
• 7. A. van Dam, “Discurso de apertura de Hypertext '87”, Commun. ACM , vol. 31, núm. 7, págs. 887–895, julio de 1988, doi: 10.1145/48511.48519.
• 8. J. Ponciano, “ El desplome de las acciones de Alphabet borra $100 mil millones después de que el nuevo chatbot de IA da una respuesta incorrecta en un anuncio ”, Forbes, febrero de 2023. [En línea]. Disponible: https://www.forbes.com/sites/jonathanponciano/2023/02/08/alphabet-google-stock-plunge-erases-100-billion-after-new-ai-chatbot-gives-wrong-answer- en el anuncio/?sh=6d95dc355ce8
• 9. J. Elias, " Google pide a los empleados que reescriban las malas respuestas de Bard, dice que la IA 'aprende mejor con el ejemplo' ", CNBC, febrero de 2023. [En línea]. Disponible: https://www.cnbc.com/2023/02/15/google-asks-employees-to-rewrite-bards-incorrect-responses-to-queries.html
• 10. W. Heaven, "DeepMind dice que su nuevo modelo de lenguaje puede superar a otros 25 veces más grandes", MIT Technol. Rev. , diciembre de 2021. [En línea]. Disponible: https://www.technologyreview.com/2021/12/08/1041557/deepmind-language-model-beat-others-25-times-size-gpt-3-megatron/
• 11. A. Tamkin, M. Brundage, J. Clark y D. Ganguli, " Comprender las capacidades, las limitaciones y el impacto social de los grandes modelos lingüísticos ", 2021. [En línea]. Disponible: https://arxiv.org/pdf/2102.02503.pdf
• 12. A. Dai y N. Du. “ Aprendizaje en contexto más eficiente con GlaM ”. Blog de investigación de Google. Consultado: 28 de febrero de 2023. [En línea]. Disponible: https://ai.googleblog.com/2021/12/more-ficient-in-context-learning-with.html
• 13. B. Metcalf, “Ley de Metcalfe después de 40 años de Ethernet”, Computer , vol. 46, núm. 12, págs. 26 a 31, diciembre de 2013, doi: 10.1109/MC.2013.374. [En línea]. Disponible: https://ieeexplore.ieee.org/document/6636305
• 14. J. Ichikawa y M. Steup, “El análisis del conocimiento”, en The Stanford Encyclopedia of Philosophy, edición de verano de 2018, EN Zalta, ed. Stanford, CA, EE. UU.: The Metaphysics Research Lab, 2017. [En línea]. Disponible: https://plato.stanford.edu/archives/sum2018/entries/knowledge-analysis/
• 15. E. Gettier, "¿Está justificado el conocimiento de la creencia verdadera?" Análisis , vol. 23, núm. 6, págs. 121–123, junio de 1963, doi: 10.1093/analys/23.6.121. [En línea]. Disponible: https://www.jstor.org/stable/3326922
• 16. J. Weizenbaum, Computer Power and Human Reason: From Judgement to Calculation . San Francisco, CA, EE. UU.: Freeman, 1976.
• 17. H. Berghel, “El engaño de Sokol: una retrospectiva de 25 años”, Computer , vol. 53, núm. 3, págs. 67–72, marzo de 2020, doi: 10.1109/MC.2020.2964894. [En línea]. Disponible: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9034235
• 18. P. McCorduck, Código de Aaron: Meta-Arte, Inteligencia Artificial y el Trabajo de Harold Cohen . Nueva York, NY, EE. UU.: Freeman, 1990.
• 19. H. Cohen, "Las nuevas hazañas de AARON, pintor", Stanford Humanities Rev. , octubre de 1994. [En línea]. Disponible: https://web.archive.org/web/20060107184824/http://crca.ucsd.edu/∼hcohen/cohenpdf/furtherexploits.pdf
• 20. R. van Noorden, "Los editores retiran más de 120 documentos incomprensibles", Nature , febrero de 2014. [En línea]. Disponible: https://www.nature.com/articles/nature.2014.14763#change-history
• 21. E. López-Cozar, N. Robinson-Garcia y D. Torres-Salinas, “El experimento académico de Google: cómo indexar artículos falsos y manipular indicadores bibliométricos”, J. Assoc . información ciencia Tecnología , vol. 65, núm. 3, págs. 446–454, marzo de 2014, doi: 10.1002/asi.23056.
• 22. C. Labbe y D. Labbe, "Publicaciones duplicadas y falsas en la literatura científica: ¿Cuántos artículos SCIgen en informática?" Cienciometría , vol. 94, núm. 1, págs. 379–396, enero de 2013, doi: 10.1007/s11192-012-0781-y.
• 23. H. Berghel, “El fenómeno QAnon: la tormenta siempre ha estado entre nosotros”, Computer , vol. 55, núm. 5, págs. 93–100, mayo de 2022, doi: 10.1109/MC.2022.3154125. [En línea]. Disponible: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9771124
• 24. D. Cole, “The Chinese room argument”, en The Stanford Encyclopedia of Philosophy, edición de invierno de 2020 , E. Zalta, ed. Stanford, CA, EE. UU.: Laboratorio de investigación de metafísica, 2020. [En línea]. Disponible: https://plato.stanford.edu/archives/win2020/entries/chinese-room/
• 25. H. Berghel, "Las redes sociales y la banalidad de las multitudes (en línea)", Computer , vol. 55, núm. 11, págs. 100 a 105, noviembre de 2022, doi: 10.1109/MC.2022.3198128. [En línea]. Disponible: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9928241
• 26. T. Engelhardt, Shadow Government: Surveillance, Secret Wars, and a Global Security State in a Single-Superpower World . Chicago, IL, EE. UU.: Haymarket Books, 2014.

---

Hal Berghel es profesor de informática en la Universidad de Nevada, Las Vegas, Las Vegas, NV 89154 EE. UU. Póngase en contacto con él en hlb@computer.org .