Cómo engañar a tu cerebro para que sea más innovador
Una vez que hemos aprendido a hacer algo, nos volvemos "inconscientemente competentes" en ello. Para romper con el camino predecible y avanzar, lo que sugiere mi buen amigo y colega, Greg Galle , es que necesitamos “pensar mal”. Eso significa abrir nuestra mente a nuevas posibilidades. En una sesión reciente que dirigió para Columbia Executive Education para Genentech.
Dejando la palmadita predecible
Como Greg señaló a la clase, hay conexiones sinápticas que se forjan cuando aprendemos algo. Crea una vía neuronal que es bastante funcional. Permite que nuestros cerebros conserven energía y poder de pensamiento una vez que algo se ha convertido en una rutina. Por ejemplo, ¡considere la experiencia de llegar a casa después de un viaje de rutina sin recordar conscientemente el viaje! Esto a menudo se denomina " competencia inconsciente " y es el destino final de un viaje de aprendizaje. Esto es funcional desde el punto de vista de la conservación de energía para lo que podríamos necesitar para prestar atención, por ejemplo, las amenazas en el medio ambiente.
Sin embargo, el problema es que cuando necesitamos encontrar una solución novedosa o una innovación, debemos dejar el camino predecible y viajar a lo que Greg llama el "camino audaz". Eso significa que necesitamos engañar a nuestros cerebros para que provoquen una reacción novedosa. Necesitamos despertar nuestra imaginación (como señala mi amigo, Martin Reeves de BCG, esto casi siempre es el resultado de encontrarnos con algo inesperado.
El camino predecible: Todos alguna vez nos encontramos en el “camino predecible” de cómo se han hecho las cosas y cómo serán. Este status quo es forjado por las conexiones en nuestros cerebros y nuestra cultura.
El camino audaz: Si nos atrevemos y nos permitimos a mirar más allá del status quo y perder el miedo a explorar nuevos terrenos, podremos imaginar resultados diferentes a los que conduce el camino predecible. Necesita forjar un camino audaz.
Luchar contra el status-quo: Es esencial, en especial al gestionar la innovación de una organización, luchar día con día contra las poderosas fuerzas biológicas y culturales que conspiran para obligarnos a regresar al camino predecible.
También hay una dimensión cultural en todo esto. A medida que los humanos interactúan con el tiempo, desarrollamos un conjunto de creencias compartidas sobre lo que es aceptable. Esto viene a representar lo que se ha bautizado como la “ Ventana de Overton ”. La ventana de Overton representa la gama de políticas e ideas que son ampliamente aceptadas por una población relevante. Si se le ocurre una idea que está fuera de la ventana de Overton, será difícil lograr que sea ampliamente aceptada. Habiendo dicho eso, es posible cambiar la ventana de Overton , expandiendo y cambiando las políticas que aceptará una población determinada. Los ejemplos recientes incluyen la aceptación generalizada del matrimonio entre personas del mismo sexo y la legalización de la marihuana, políticas que no hace mucho tiempo habrían sido un tercer carril político.
La idea detrás de “pensar mal” es conquistar la biología y la cultura para cambiar las cosas de cómo son a cómo podrían ser. Es la capacidad de engañar a nuestros cerebros para que piensen en nuevas posibilidades y hacer que un grupo de personas considere algo que su cultura normalmente resistiría.
Las seis prácticas básicas de “pensar mal”
Lo que hemos aprendido en el tiempo sobre cómo solucionar problemas hoy está obsoleto. Las “mejores prácticas” para la búsqueda de soluciones empresariales se basan en metodologías ortodoxas y tradicionales aprendidas por medio de una cultura que conspira en contra del pensamiento ágil y disruptivo.
La metodología Think Wrong sirve para gestionar la innovación y el desarrollo de productos innovadores, retando a las empresas y a sus intraemprendedores a que se muevan a lugares absurdos y regresen con ideas memorables, únicas e innovadoras.
Hay seis prácticas básicas en el sistema ThinkWrong, que también se describen en un libro del mismo nombre , que profundiza mucho en ellas. Como lo describe Greg, todas estas son prácticas específicas que podemos aprender y aplicar y trabajar para mejorar.
Ser Audaz: busca retar el status quo y ofrecer una solución que supere las expectativas.
Escapar: Encuentra una inspiración fresca para formular soluciones en contra del statu quo.
Dejarlo ir: fuerza a los participantes a resolver desde un ángulo que jamás han considerado, fomentando soluciones que no se han imaginado aún.
Apostar poco: estimula la creación de pequeños incrementos de valor de manera que se puedan evaluar resultados sin arriesgar mucho capital.
Otras prácticas como Hacer algo y
Moverse rápido se alinean con marcos de trabajo ágiles y desarrollar una red de partners poseen vasta experiencia.
La inteligencia artificial es tan revolucionaria como los teléfonos móviles e Internet.
Por Bill Gates| 21 de marzo de 2023
En mi vida, he visto dos demostraciones de tecnología que me parecieron revolucionarias.
La primera vez fue en 1980, cuando conocí una interfaz gráfica de usuario, el precursor de todos los sistemas operativos modernos, incluido Windows. Me senté con la persona que me había mostrado la demostración, un brillante programador llamado Charles Simonyi, e inmediatamente comenzamos a intercambiar ideas sobre todas las cosas que podríamos hacer con un enfoque informático tan fácil de usar. Charles finalmente se unió a Microsoft, Windows se convirtió en la columna vertebral de Microsoft, y el pensamiento que hicimos después de esa demostración ayudó a establecer la agenda de la empresa para los próximos 15 años.
La segunda gran sorpresa llegó el año pasado. Me había estado reuniendo con el equipo de OpenAI desde 2016 y estaba impresionado por su progreso constante. A mediados de 2022, estaba tan entusiasmado con su trabajo que les propuse un desafío: entrenar una inteligencia artificial para aprobar un examen de biología de Colocación Avanzada. Hágalo capaz de responder preguntas para las que no ha sido entrenado específicamente. (Elegí AP Bio porque la prueba es más que una simple regurgitación de hechos científicos: te pide que pienses críticamente sobre la biología). Si puedes hacer eso, dije, entonces habrás logrado un verdadero avance.
Pensé que el desafío los mantendría ocupados durante dos o tres años. Lo terminaron en unos pocos meses.
En septiembre, cuando me reuní con ellos nuevamente, observé con asombro cómo le hicieron a GPT, su modelo de IA, 60 preguntas de opción múltiple del examen AP Bio, y respondieron correctamente a 59 de ellas. Luego escribió respuestas sobresalientes a seis preguntas abiertas del examen. Hicimos que un experto externo calificara la prueba y GPT obtuvo un 5, el puntaje más alto posible y el equivalente a obtener una A o A+ en un curso de biología de nivel universitario.
Una vez que pasó la prueba, le hicimos una pregunta no científica: "¿Qué le dices a un padre con un hijo enfermo?" Escribió una respuesta reflexiva que probablemente fue mejor que la que hubiéramos dado la mayoría de nosotros en la sala. Toda la experiencia fue impresionante.
Sabía que acababa de ver el avance tecnológico más importante desde la interfaz gráfica de usuario.
Esto me inspiró a pensar en todas las cosas que la IA puede lograr en los próximos cinco a diez años.
El desarrollo de la IA es tan fundamental como la creación del microprocesador, la computadora personal, Internet y el teléfono móvil. Cambiará la forma en que las personas trabajan, aprenden, viajan, obtienen atención médica y se comunican entre sí. Industrias enteras se reorientarán a su alrededor. Las empresas se distinguirán por lo bien que lo utilizan.
La filantropía es mi trabajo de tiempo completo en estos días, y he estado pensando mucho en cómo, además de ayudar a las personas a ser más productivas, la IA puede reducir algunas de las peores desigualdades del mundo. A nivel mundial, la peor inequidad está en la salud: 5 millones de niños menores de 5 años mueren cada año. Eso es menos que los 10 millones de hace dos décadas, pero sigue siendo un número sorprendentemente alto. Casi todos estos niños nacieron en países pobres y mueren por causas prevenibles como diarrea o malaria. Es difícil imaginar un mejor uso de la IA que salvar la vida de los niños.
En los Estados Unidos, la mejor oportunidad para reducir la inequidad es mejorar la educación, particularmente asegurándose de que los estudiantes tengan éxito en matemáticas. La evidencia muestra que tener habilidades matemáticas básicas prepara a los estudiantes para el éxito, sin importar la carrera que elijan. Pero el rendimiento en matemáticas está disminuyendo en todo el país, especialmente para los estudiantes negros, latinos y de bajos ingresos. La IA puede ayudar a cambiar esa tendencia.
El cambio climático es otro tema en el que estoy convencido de que la IA puede hacer que el mundo sea más equitativo. La injusticia del cambio climático es que las personas que más sufren, las más pobres del mundo, son también las que menos contribuyeron al problema. Todavía estoy pensando y aprendiendo sobre cómo la IA puede ayudar, pero más adelante en esta publicación sugeriré algunas áreas con mucho potencial.
En resumen, estoy entusiasmado con el impacto que tendrá la IA en los temas en los que trabaja la Fundación Gates , y la fundación tendrá mucho más que decir sobre la IA en los próximos meses. El mundo necesita asegurarse de que todos, y no solo las personas adineradas, se beneficien de la inteligencia artificial. Los gobiernos y la filantropía deberán desempeñar un papel importante para garantizar que reduzca la inequidad y no contribuya a ella. Esta es la prioridad para mi propio trabajo relacionado con la IA.
Cualquier nueva tecnología que sea tan disruptiva seguramente hará que la gente se sienta incómoda, y eso es ciertamente cierto con la inteligencia artificial. Entiendo por qué: plantea preguntas difíciles sobre la fuerza laboral, el sistema legal, la privacidad, los prejuicios y más. Las IA también cometen errores fácticos y experimentan alucinaciones . Antes de sugerir algunas formas de mitigar los riesgos, definiré lo que quiero decir con IA y entraré en más detalles sobre algunas de las formas en que ayudará a empoderar a las personas en el trabajo, salvar vidas y mejorar la educación.
Hal Berghel , Universidad de Nevada, Las Vegas, Las Vegas, EE. UU.
Abstracto
Nuestra obsesión actual por la tecnología de chat de inteligencia artificial puede decirnos más sobre nosotros mismos que la tecnología.
La tecnología de chat de inteligencia artificial (AIChat) es sin duda el área informática más popular en este momento.El tema es fascinante por cualquier medida.Desde un punto de vista económico, implica un choque de titanes de alta tecnología como Microsoft y Google por la supremacía en el mercado emergente de IA en línea.1Desde una perspectiva de inversión, todo tipo de intrigas están presentes cuando los inversionistas apuestan por los gigantes de alta tecnología participantes.2Desde una perspectiva social/política, AIChat está destinado a ser la próxima tecnología en ser politizada y convertida en arma por tribalistas partidistas.3Desde una perspectiva tecnológica, las plataformas AIChat pueden revolucionar nuestra interfaz con los recursos de Internet, ya que añaden sofisticación a las búsquedas web y amplían la gama de interactividades en línea.
Si bien confieso una modesta curiosidad sobre estos asuntos, la epistemología subyacente de las plataformas de AI Chat me interesa mucho más.Específicamente, ¿en qué medida aborda esta tecnología los problemas más fundamentales e inmutables planteados por Vannavar Bush,4Ted Nelson,5y Alan Turing?6¿Qué tan cerca se encuentra AIChat del procesamiento de ideas?7Todos estaremos mejor atendidos si nos enfocamos en cuestiones sustanciales en lugar de modas pasajeras.Esto es especialmente cierto con las tecnologías potencialmente desplazantes.
Para ilustrar, a principios de febrero de 2023, el precio de las acciones de Google cayó un 7,4% después de que su chatbot, Bard, atribuyó falsamente las primeras fotos de exoplanetas al telescopio espacial James Webb.8(Tal generación de tonterías es etiquetada por los entendidos con el eufemismo "alucinación"). Dado que la afirmación se desvaneció por 20 años, el incidente atrajo una publicidad negativa considerable que se vinculó en los medios a una disminución de $ 100 mil millones en el precio de las acciones de Google. .En el largo plazo de la interacción humana, esto se clasificará como un no evento.
Por otro lado, la cuestión de si la tecnología AIChat hará contribuciones duraderas a la ecología cibernética y en qué medida, y si estas contribuciones pueden ser para bien o para mal, perdurará.En mi opinión, las contribuciones más importantes de Bard, ChatGPT, Bing mejorado y otros chatbots de IA pueden estar fuera del marco de la tecnología de IA.Esta experiencia puede decirnos más sobre nosotros que la IA.
Redes neuronales de lenguaje grande
La respuesta de Google a su metedura de pata fue el anuncio de que su nuevo "proceso de prueba de confianza" (TTP) que pretendía ofrecer algún tipo de verificación de datos sobre la salida de Bard todavía estaba en versión beta.Esa es una buena señal.Al menos no se duplicó con las negaciones.
Pero luego la concesión de Google se descarrila cuando anunció que TTP se sembrará con aportes de los empleados de Google9basados, presumiblemente, en la conjetura de que el camino hacia la verdad y la iluminación se encuentra en las encuestas de opinión y los grupos de afinidad.Al igual que ChatGPT, Bard aparentemente usa una red neuronal de modelo de IA de lenguaje grande que acumula texto de Internet.10,[11],12Ahí está el problema.Sembrar programas de lenguaje de IA con datos de Internet cuestionables y luego examinarlos con las opiniones de los empleados es similar a tener amigos que se sumergen en un basurero en busca de tesoros con palas rojas brillantes: se puede hacer y, en ocasiones, puede revelar algo interesante, pero es poco probable que tenga mucho de una tasa de rendimiento.Internet, como tal y en general, no es la materia de la que está hecha la creación de conocimiento.(Piense en GIGO). El uso de una fuente poco confiable como alimentador semántico para cualquier entorno de generación de conocimiento putativo no es óptimo.
Esto no es para negar que Internet ha demostrado ser valiosa.Ha demostrado su valía en el comercio electrónico, el entretenimiento en línea, las finanzas en línea, la educación en línea, la búsqueda en línea, el almacenamiento en la nube, etc.Pero estos implican el archivo y la transferencia de datos, no la creación de conocimiento.Hay una razón por la que se ha acusado a Internet de ser una fuente de distracciones aturdidoras, pérdidas de tiempo, teorías de conspiración, noticias falsas, pornografía, incitación al odio y otras actividades diversas que no merecen ser mencionadas.Internet es ambivalente con respecto al contenido: todo, desde tutoriales terroristas hasta recetas, se puede encontrar en Internet.Lo que determina el valor de Internet para nosotros es el producto de una búsqueda productiva.Y, por supuesto, aquellos con expectativas bajas/altas serán satisfechos más/menos fácilmente.13
Chatbot Epistemología 101
Durante el último siglo más o menos, los epistemólogos modernos se han centrado en alguna variante del análisis tripartito del conocimiento como creencia justificada y verdadera (JTB).6,14La observación de Edmund Gettier 15 de que si bien estas tres condiciones pueden ser necesarias en conjunto para el conocimiento, no son suficientes en conjunto, ha creado una industria casera en la epistemología JTB que se ha fortalecido durante 60años.Que ninguna de las muchas “soluciones” posibles que se han propuesto en los últimos 60 años, que van desde agregar una cuarta condición hasta redefinir los términos en las tres originales, haya sido universalmente aceptada es testimonio de la dificultad del problema central para la epistemología en respondiendo a la pregunta ¿qué es el conocimiento?
Restringiremos nuestra atención a la “epistemología ligera”.Al igual que con sus bebidas homónimas, esta no será tan satisfactoria como la original, pero es lo suficientemente buena para los propósitos actuales.Designaremos la creencia verdadera simple (sin justificación) como “conocimiento débil”.Podemos pensar en el conocimiento débil como accidental o especulativo a este respecto: es decir, si una afirmación de conocimiento débil es correcta, pero nos ha faltado una justificación razonable para sostenerla, solo podemos reclamar legítimamente un conocimiento débil o parcial.Un ejemplo paradigmático de ese conocimiento débil serían las predicciones en las que no se puede demostrar una conexión causal, como en las predicciones astrológicas: si son correctas, coincidentemente lo son.
En un caso extremo, podríamos relajar aún más nuestra definición de conocimiento al sacrificar la verdad y, por lo tanto, equivocarnos entre conocimiento y creencia.Esta sería la más débil y trivial de todas las formas de afirmaciones de conocimiento en lo que respecta a una teoría JTB.De hecho, equiparar creencia con conocimiento esencialmente reduce este último a opinión.Aunque tal equívoco hace que el términoconocimientosea impotente, la creencia sigue siendo el principal motivador humano de la política, las religiones, las costumbres, los tabúes, los rituales, los mitos, los estereotipos, las teorías de la conspiración y es un importante contribuyente a las normas culturales y sociales.
Aquí es donde voy con esto: si uno se vuelve escolástico, necesariamente se basa en algún marco epistemológico.Si ese marco es débil, epistemológicamente, también lo será el producto resultante.Aquí es donde AIChat entra en discusión.¿AIChat como ChatGPT y Bard alguna vez evolucionarán más allá de un marco epistemológico débil?tengo serias dudas.Y mis dudas se basan en gran medida en mi escepticismo sobre el valor de usar redes neuronales modelo de IA de lenguaje grande en datos de origen tan incompletos como los que se encuentran en Internet.
También hay que admitir que mi perspectiva de la verdad deriva de un compromiso de que de alguna manera el términoverdadImplica cierta correspondencia entre oraciones declarativas portadoras de verdad y estados de cosas.La mayoría de nosotros en las ciencias crecimos con este marco.Dicho esto, cuando se trata de datos, especialmente con bibliotecas digitales, no veo forma de evitar alguna forma de inflacionismo: debe tener sentido decir de alguna afirmación que "es verdad" o no.Esto es cierto en cualquier conjunto de datos, ya sea un informe financiero, una prueba matemática, una narración histórica, lo que sea.Por lo que puedo decir, las tecnologías AIChat son deflacionarias: no hay una investigación epistémica general del material posible.Si la verdad, y no la opinión, es la piedra angular de la investigación ideal, AIChat, tal como se concibe actualmente, ciertamente no da en el blanco.
Pareidolia algorítmica y apofenia
Para los científicos informáticos y los profesionales desde hace mucho tiempo, AIChat sigue un tema que abarca más de 60 años.El programa de procesamiento de lenguaje natural de Eliza en la década de 1960 sentó las bases para una comunicación automatizada superficial basada en patrones discernibles.Fue la génesis de los chatbots de IA de hoy y, coincidentemente, también un gesto temprano hacia nuestra generación de la posverdad.Cabe señalar que las deficiencias y el potencial de hipérbole eran obvios para el autor del programa en ese momento.16Sin embargo, Eliza demostró decisivamente el potencial de la bloviación automatizada.Treinta años más tarde, el Sokol Hoax demostró que un erudito hábil puede realizar aún más potencial de bloviación, pero estoy divagando.17
Se puede decir lo mismo de AI Art, que tiene sus orígenes en la misma década.El proyecto de generación de imágenes de Harold Cohen que culminó con el programa AARON en la década de 1960 es un ejemplo destacado.18,19El lector observará que los comentarios sobre Eliza y AARON no son muy diferentes de los de AIChat, Bard, DALL-E y WOMBO.Además, el interés temprano en la generación automatizada de texto y gráficos estuvo acompañado de programas de juego, razonamiento automatizado, sistemas expertos, programación lógica, percepción/clasificación automatizada, comprensión del lenguaje natural, etc.El viejo adagio de que un programa no es IA si funciona, resultó ser cierto durante más de medio siglo.Sin embargo, los primeros y primitivos entornos de IA en las primeras tres décadas de la informática comercial definitivamente proporcionaron un terreno fértil para los generadores de contenido de hoy.
AIChat en contexto
El punto que quiero resaltar es que los generadores de contenido o comunicación definen un continuo de incompleto a valioso, leyendo la Tabla 1 de arriba a abajo.Según mi experiencia, colocaría el AIChat de hoy en algún lugar entre los generadores de documentos de término en línea automatizados y el Sokol Hoax.Si bien esta ubicación es algo subjetiva, mi razonamiento se aclarará si uno compara cuidadosamente el artículo de Sokol con las citas a continuación; cualitativamente, simplemente no hay comparación.Hago hincapié en que, si bien el orden absoluto en la lista no es muy importante, el posicionamiento relativo es instructivo.Las entradas más cercanas a la entrada AIChat son las que tienen más probabilidades de ser desplazadas.En pocas palabras, es mucho más probable que los sitios web de teoría de la conspiración, los generadores de documentos de término y Wikipedia se vean amenazados por zyro, atrixnet, ChatGPT,y Bard que los esfuerzos académicos como los de Sokol o las publicaciones académicas legítimas producidas por la ACM y el IEEE.Sin embargo, debe mencionarse a este respecto que la división entre las categorías en este continuo no están perfectamente delineadas.Los editores académicos han estado luchando con la proliferación de contribuciones semicognitivas a la literatura académica y las granjas de enlaces resultantes que desacreditan el valor de los índices de citas durante más de una década.20,[21],22Sin embargo, el hecho de que no podamos hacer una delimitación clara no implica que no podamos hacer una distinción.
Tabla 1. Un continuo de generación de contenido.
Una inmersión más profunda en la experiencia de ChatGPT
En este punto, millones de usuarios están experimentando con AIChat, principalmente en este momento con el ChatGPT, el primero en el mercado. Considere los siguientes intercambios de preguntas y respuestas con ChatGPT relacionados con QAnon que tuvieron lugar en diciembre de 2022.
P: ¿QAnon es una fuente confiable de información?
R: QAnon es una teoría de conspiración de extrema derecha (*) que ha sido ampliamente desacreditada por verificadores de hechos y periodistas. (**) No hay evidencia que apoye la teoría, y no se considera una fuente confiable de información. (***) Es importante verificar la información de múltiples fuentes antes de aceptarla como un hecho. Es poco probable que QAnon tenga éxito como fuente confiable de información. (***)
¿QAnon afectó el resultado de las elecciones presidenciales de 2020?
No está claro cómo QAnon pudo haber afectado el resultado de las elecciones presidenciales de 2020. QAnon es una teoría de conspiración de extrema derecha (*) que ha sido ampliamente desacreditada por verificadores de hechos y periodistas. (**) No hay evidencia que apoye la teoría, y no se considera una fuente confiable de información. (***) El resultado de la elección fue determinado por el pueblo estadounidense que emitió su voto, y no es apropiado atribuir el resultado a ningún grupo o individuo.
¿Cuál es la diferencia entre los miembros de QAnon y los cultistas del fin del mundo?
QAnon es una teoría de conspiración de extrema derecha (*) que se originó en 2018. Se basa en la creencia infundada (#) de que hay un grupo secreto de funcionarios de alto rango, celebridades y empresarios que trabajan para socavar al presidente Donald Trump. y sus seguidores. (##) Los cultos del fin del mundo, por otro lado, son grupos que creen en un apocalipsis venidero y, a menudo, tienen creencias extremas y peligrosas.
¿QAnon fue habilitado por las redes sociales?
QAnon se originó en el tablero de mensajes en línea 4chan y luego se extendió a otras plataformas de redes sociales, como Facebook, Twitter y YouTube. Es probable que las redes sociales hayan desempeñado un papel al permitir la difusión de QAnon y otras teorías de la conspiración al proporcionar una plataforma para que las personas y los grupos compartan sus ideas y se conecten con otras personas que comparten creencias similares. Sin embargo, no es exacto decir que QAnon fue "habilitado" por las redes sociales. QAnon existía antes de las redes sociales, [¡FALSO!] y su crecimiento y difusión son el resultado de muchos factores, incluidas las creencias y acciones de sus seguidores.
¿QAnon es una parte importante de la infraestructura de desinformación armada ($)?
QAnon es una teoría de conspiración de extrema derecha (*) que se originó en 2018. Se basa en la creencia infundada (#) de que hay un grupo secreto de funcionarios de alto rango, celebridades y empresarios que trabajan para socavar al presidente Donald Trump. y sus seguidores. (##) Si bien QAnon ha ganado una atención significativa y tiene muchos seguidores, no está claro si es una parte importante de la infraestructura de desinformación armada. ()DisinorteFormetroationorteisthmidmiyoibmiratmispagrmiadoFFayosmiormetroisyomiadinortegramoinorteFormetroationorte,($) a menudo con fines políticos o ideológicos. Es difícil determinar hasta qué punto QAnon o cualquier otro grupo o individuo está involucrado en la desinformación armada, ya que es un secreto y, a menudo, difícil de rastrear. [¿GRAMÁTICA?]
¿Puede la desinformación armada galvanizar una base política?
La desinformación armada, o la difusión deliberada de información falsa o engañosa, se puede utilizar para influir en la opinión pública y dar forma a las creencias políticas. Puede ser una herramienta poderosa para aquellos que buscan manipular la opinión pública y obtener apoyo para sus ideas o causas. Al difundir información falsa o engañosa, ($$) aquellos que participan en la desinformación armada pueden crear una sensación de miedo, confusión o incertidumbre entre su audiencia, lo que a su vez puede conducir a una base política más cohesionada y movilizada. Sin embargo, los efectos a largo plazo de la desinformación armada en la construcción de bases políticas son difíciles de predecir y pueden variar según la situación específica.
En comparación con la literatura académica, el relato de ChatGPT es notablemente anémico. (ver referencias en Berghel 23. Los patrones repetidos identificados por caracteres especiales entre paréntesis ilustran una dependencia de patrones de lenguaje similar al del programa Eliza de 1960. Cuando ChatGPT encuentra un patrón que le gusta, lo ejecuta, una y otra vez. Es También cabe destacar que en el espacio de unos pocos párrafos, surgió una flagrante falsedad en las respuestas: QAnon ciertamente no precedió a las redes sociales. Finalmente, se identificaron algunas banalidades y debilidades gramaticales. En general, ChatGPT sobresale como un generador de respuestas anémicas. Pero eso en sí mismo es un logro notable.
Veamos si podemos poner un punto más fino en nuestras observaciones. Primero, veamos si podemos confundir ChatGPT en un intercambio:
¿Qué es la enfermedad venérea?
El término “enfermedad venérea” es un término obsoleto para una infección de transmisión sexual (ITS). El término ya no se usa porque se considera ofensivo y estigmatizante. Hoy en día, el término “infección de transmisión sexual” o “ITS” se utiliza para referirse a las infecciones que se transmiten a través del contacto sexual. Algunas ITS comunes incluyen clamidia, gonorrea y sífilis. Es importante practicar sexo seguro y hacerse pruebas regularmente para prevenir la propagación de ITS.
Eso no fue difícil. ChatGPT confunde enfermedad venérea con enfermedad venérea. Venereano se relaciona con Venus. Usé la frase para explicar por qué era imposible para la astronomía ptolemaica dar cuenta de las fases de Venus. 17 No solo no se dio cuenta de la sutileza, sino que se abrió paso bruscamente en algunas afirmaciones pedestres sobre la enfermedad social. ChatGPT parece inadecuado para sutilezas y matices.
¿Las celebridades recolectan adrenocromo de los cuerpos de los niños?
La afirmación de que las celebridades extraen adrenocromo de los cuerpos de los niños es una teoría de conspiración sin fundamento. No hay evidencia para apoyar esta afirmación, y no se basa en la realidad. El adrenocromo es una sustancia química real que produce el cuerpo humano, pero no tiene las propiedades o los efectos que a menudo se le atribuyen en las teorías de la conspiración. Además, no hay evidencia que sugiera que las celebridades o cualquier otro grupo de personas estén involucrados en la recolección de adrenocromo de niños o de cualquier otra persona. Este es un rumor peligroso y dañino, y no debe tomarse en serio.
Algunas comprobaciones rudimentarias de hechos parecen estar integradas en la respuesta 8. Esto parece sugerir que los pronunciamientos tienen un gran peso volumétrico, enfatizando las observaciones más comunes reportadas del rebaño de Internet. Es probable que esta función rudimentaria de verificación de hechos de AIChat eleve ligeramente el nivel de desinformación, al menos con respecto a temas no controvertidos.
¿La transferencia de calor de objetos más calientes a objetos más fríos resulta del flujo de fluido calórico?
La transferencia de calor de objetos más calientes a objetos más fríos no resulta del flujo de un fluido calórico. Esta idea, conocida como teoría calórica del calor, fue propuesta en los siglos XVIII y XIX como una forma de explicar la transferencia de calor. Según la teoría calórica, se pensaba que el calor era una sustancia llamada calórica que fluía de los objetos más calientes a los más fríos. Sin embargo, esta teoría fue posteriormente refutada por experimentos y reemplazada por el concepto más preciso de calor como forma de energía. Hoy entendemos que el calor es un tipo de energía que se transfiere de un objeto a otro como resultado de una diferencia de temperatura.
Lo superó. No está mal para la introducción de un neófito a la termodinámica. Esto sugiere que las plataformas AIChat, cuando se basan en una erudición genuina, pueden erosionar la utilidad de Wikis. De hecho, en algunas circunstancias puede ser difícil distinguirlos.
Y finalmente, ofrezco un intercambio proporcionado por uno de mis colegas que preguntó si la prueba de Turing podría reemplazar el Graduate Record Exam para los solicitantes que ingresan a nuestra escuela de posgrado. Observe cómo ChatGPT se descarrila con este.
Escriba un párrafo argumentando que la UNLV debería reemplazar el GRE con la prueba de Turing.
Un argumento para reemplazar el GRE con la prueba de Turing en la UNLV es que la prueba de Turing es una medida más efectiva de la capacidad de pensar y razonar de un estudiante. El GRE es una prueba estandarizada que mide principalmente el conocimiento de un estudiante en materias específicas, como matemáticas e inglés. Sin embargo, la prueba de Turing es una medida más general de la capacidad de una persona para pensar y resolver problemas y no requiere conocimientos de temas específicos.
Otro argumento para reemplazar el GRE con la prueba de Turing es que la prueba de Turing es menos susceptible de entrenamiento y preparación. El GRE es un examen muy conocido y ampliamente utilizado, y hay muchos recursos disponibles para ayudar a los estudiantes a prepararse y estudiar para el examen. Sin embargo, la prueba de Turing es menos conocida y hay menos recursos disponibles para que los estudiantes se preparen, lo que significa que los resultados de la prueba de Turing pueden estar menos influenciados por el entrenamiento y la preparación.
Además, la prueba de Turing tiene el potencial de proporcionar una evaluación más precisa y completa de las habilidades y el potencial de un estudiante. El GRE es una medida limitada y restringida del conocimiento y las habilidades de un estudiante, y es posible que no refleje con precisión el potencial o la capacidad de un estudiante para tener éxito en la escuela de posgrado. Por el contrario, la prueba de Turing es una medida más integral de la capacidad de pensar y razonar de una persona, y puede proporcionar una evaluación más precisa del potencial de un estudiante para tener éxito en la escuela de posgrado.
Nuestra primera observación es que la respuesta se deriva de un corpus de lenguaje natural filosóficamente ingenuo, que se basa en datos que son insuficientes para reconocer que una prueba de Turing no es una "medida general de la capacidad de una persona para pensar y resolver problemas". La prueba de Turing es una medida de si la salida de la computadora podría ser indistinguible de la salida humana, no una evaluación de la comprensión. Para aquellos interesados, John Searle amplía esta distinción y los límites de las pruebas de Turing para medir la "IA débil". 24 Esto no es para socavar el valor de la prueba de Turing, sino para circunscribir exactamente de qué es una prueba.
Aparentemente, Alan Turing predijo que “para el año 2000 una computadora sería capaz de jugar el juego de imitación tan bien que un interrogador promedio no tendría más del 70% de posibilidades de hacer la identificación correcta (máquina o humano) después de cinco minutos de interrogatorio." 6 Se puede argumentar que, dadas algunas advertencias críticas, Turing solo estuvo 23 años desfasado. Veamos algunas de estas advertencias.
Los AIChats son pasivos con respecto al proceso de creación de conocimiento. Es fundamentalmente una mirada retrospectiva a la creación de conocimiento que elude la comprensión del lenguaje natural y solo habla de labios para afuera sobre conceptos e ideas. Más bien, ofrece una sofisticada extracción, reformulación y manipulación de esencias derivadas de corpus estáticos. Dado que la salida de un proceso automatizado de este tipo se limita a la fiabilidad de la entrada, no se puede esperar mucho contenido cerebral nuevo. Pero incluso con estas limitaciones, se debe admitir que es una nueva tecnología fascinante.
Si uno relaja lo suficiente la noción de una prueba de Turing a una IA débil basada en un conocimiento débil y una epistemología ligera, ChatGPT, tal como está ahora, parecería pasar la prueba para las comunidades y tribalistas que no se basan en la realidad. Como tal, es probable que AIChat encuentre la aceptación más inmediata en entornos donde ni el razonamiento informado ni la sofisticación intelectual son un requisito.
No veo ninguna evidencia de que los AIChats basados en el modelado de redes neuronales de lenguaje extenso puedan adaptarse a la sutileza, los matices, la ironía, etc., la materia de la que está hecha la comunicación inteligente. Si bien los grandes eruditos pueden pararse sobre los hombros de gigantes intelectuales, no se les ve hurgando en los archivos de datos del populacho.
Los corpus de contenido ligero como Internet nunca proporcionarán el grano para comentarios de valor duradero. Lo mejor que se puede esperar es una estafa intelectual avanzada con entretenimiento o valor comercial.
Es difícil imaginar cómo funcionará la verificación de la información, ya que la forma más directa de corregir la desinformación o señalar los absurdos es mediante una revisión informada por pares, a la que Internet se adapta mal. Y deferir a los empleados como árbitros de la corrección no es una estrategia de mitigación óptima. 9 La cuestión de cómo los AIChats se elevarán por encima del nivel de los virus de ideas aleatorias producidos por rebaños cobra gran importancia.
Es imposible evitar las conclusiones de que AIChat exacerbará las incapacidades de la sociedad para lidiar con los problemas de derechos de autor, uso justo y sobrecarga de información.
Aunque más allá del alcance de la presente discusión, sugerimos que se aplican críticas similares al arte de IA como generadores de multimediocridad.
Dicho esto, las capacidades basadas en diálogos de AIChat contribuyen significativamente a la eficacia y eficiencia de la búsqueda en línea. Esto podría proporcionar interfaces poderosas e inimaginables para los repositorios en línea (bases de códigos, enciclopedias, colecciones de información como manuales del propietario, acceso a bases de datos de piezas basadas en descripciones y usos). En este sentido, tiene el potencial de llevar interfaces anteriores como Siri, Alexa y Cortana al siguiente nivel.
En resumen, AIChat parece tener la mayor promesa en la recuperación de información donde la precisión no es crítica, el tema no es tan importante, no se requiere verificación y se tolera el sesgo de confirmación, la disonancia cognitiva y la desinformación. Esto descartaría cualquier tema que sea controvertido. Uno puede imaginar guerras de algoritmos de AIChat similares a las guerras de edición de Wikipedia para subvertir resultados objetivos e imparciales. Como ayuda para la creación de conocimiento, el valor actual de la tecnología AIChat parece ser la interfaz con diccionarios en línea, enciclopedias, ciencia y erudición revisadas por pares, poesía, artes y letras. AIChat no es "inteligencia generativa", es "expresión generativa".
Lamentablemente, es probable que el papel de AIChat en la educación sea profundo, pero su contribución a la erudición será insignificante. Es probable que sea una tecnología disruptiva para los dos tercios superiores de la lista en la Tabla 1. Es seguro que será un arma y ocupará un lugar destacado en la propagación de teorías de conspiración, la generación de noticias falsas, el apoyo a la pseudociencia, la promoción del comercio delictivo, el fomento de insurrecciones, publicidad de tácticas terroristas, estereotipos e intimidación en línea, galvanizar el apoyo a causas antisociales y otras actividades banales, como usarlo para completar las tareas escolares, escribir cartas de recomendación, crear sonidos e imágenes, dar malos consejos médicos, crear un código fuente de computadora que no es no se entiende completamente, y así sucesivamente. 25La mensajería no tiene que ser significativa o veraz si se considera lo suficientemente inteligente como para apoyar una base tribal.
Queda por ver qué tan bien AIChat podrá evitar una crisis existencial epistemológica, pero las tecnologías en línea anteriores, como las redes sociales, sugieren que no debemos tener muchas esperanzas. Es útil recordar que el letrero frente al Ministerio de la Verdad en 1984 de George Orwell dice "La guerra es paz, la libertad es esclavitud, la ignorancia es fuerza". Tom Engelhardt sugiere que si Orwell estuviera vivo hoy, bien podría haber agregado "El conocimiento es crimen". 26
Durante los últimos 30 años, nuestro paradigma para el conocimiento interconectado fue la red mundial. Durante los próximos 30 años puede ser la web aumentada con la tecnología AIChat. Pero esta mejora situará a ChatAI más cerca de la visión de Gutenberg que de las de Vannavar Bush y Ted Nelson. Aunque, debemos admitir que, dadas las advertencias mencionadas anteriormente, parece que hemos hecho algún progreso hacia el de Alan Turing. Con ChatAI, el futuro de gerentes, ejecutivos, políticos y educadores sin imaginación puede estar en peligro.
Referencias
1. F. Somoye, “ Bing AI vs Bard AI: la batalla de los motores de búsqueda impulsados por IA ”, PC Guide. Consultado: 28 de febrero de 2023. [En línea]. Disponible: https://www.pcguide.com/apps/bing-ai-vs-bard-ai/
5. T. Nelson, "Procesamiento de información compleja: una estructura de archivo para lo complejo, lo cambiante y lo indeterminado", en Proc. ACM 20 Nacional. Conf. , agosto de 1965, págs. 84–100, doi: 10.1145/800197.806036.
11. A. Tamkin, M. Brundage, J. Clark y D. Ganguli, " Comprender las capacidades, las limitaciones y el impacto social de los grandes modelos lingüísticos ", 2021. [En línea]. Disponible: https://arxiv.org/pdf/2102.02503.pdf
13. B. Metcalf, “Ley de Metcalfe después de 40 años de Ethernet”, Computer , vol. 46, núm. 12, págs. 26 a 31, diciembre de 2013, doi: 10.1109/MC.2013.374. [En línea]. Disponible: https://ieeexplore.ieee.org/document/6636305
14. J. Ichikawa y M. Steup, “El análisis del conocimiento”, en The Stanford Encyclopedia of Philosophy, edición de verano de 2018, EN Zalta, ed. Stanford, CA, EE. UU.: The Metaphysics Research Lab, 2017. [En línea]. Disponible: https://plato.stanford.edu/archives/sum2018/entries/knowledge-analysis/
15. E. Gettier, "¿Está justificado el conocimiento de la creencia verdadera?" Análisis , vol. 23, núm. 6, págs. 121–123, junio de 1963, doi: 10.1093/analys/23.6.121. [En línea]. Disponible: https://www.jstor.org/stable/3326922
16. J. Weizenbaum, Computer Power and Human Reason: From Judgement to Calculation . San Francisco, CA, EE. UU.: Freeman, 1976.
21. E. López-Cozar, N. Robinson-Garcia y D. Torres-Salinas, “El experimento académico de Google: cómo indexar artículos falsos y manipular indicadores bibliométricos”, J. Assoc . información ciencia Tecnología , vol. 65, núm. 3, págs. 446–454, marzo de 2014, doi: 10.1002/asi.23056.
22. C. Labbe y D. Labbe, "Publicaciones duplicadas y falsas en la literatura científica: ¿Cuántos artículos SCIgen en informática?" Cienciometría , vol. 94, núm. 1, págs. 379–396, enero de 2013, doi: 10.1007/s11192-012-0781-y.
23. H. Berghel, “El fenómeno QAnon: la tormenta siempre ha estado entre nosotros”, Computer , vol. 55, núm. 5, págs. 93–100, mayo de 2022, doi: 10.1109/MC.2022.3154125. [En línea]. Disponible: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9771124
24. D. Cole, “The Chinese room argument”, en The Stanford Encyclopedia of Philosophy, edición de invierno de 2020 , E. Zalta, ed. Stanford, CA, EE. UU.: Laboratorio de investigación de metafísica, 2020. [En línea]. Disponible: https://plato.stanford.edu/archives/win2020/entries/chinese-room/
25. H. Berghel, "Las redes sociales y la banalidad de las multitudes (en línea)", Computer , vol. 55, núm. 11, págs. 100 a 105, noviembre de 2022, doi: 10.1109/MC.2022.3198128. [En línea]. Disponible: https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9928241
26. T. Engelhardt, Shadow Government: Surveillance, Secret Wars, and a Global Security State in a Single-Superpower World . Chicago, IL, EE. UU.: Haymarket Books, 2014.
Hal Berghel es profesor de informática en la Universidad de Nevada, Las Vegas, Las Vegas, NV 89154 EE. UU. Póngase en contacto con él en hlb@computer.org .
