(Tomado de sinpermiso.info)
(Segunda y última parte)
El principal objetivo de la ciencia es descubrir el sistema interno, tanto en su estado inicial
de la facultad humana del lenguaje como en las formas particulares que adopta en la
adquisición. En la medida en que se comprenda este sistema interno, podremos proceder a
investigar cómo entra en funcionamiento, interactuando con muchos otros factores que
intervienen en el uso del lenguaje.
La obtención de datos acerca de la actuación ofrece evidencias sobre la naturaleza del
sistema interno, en especial cuando se refina experimentalmente, algo habitual en los
trabajos de campo. Pero incluso la recopilación más masiva de datos es necesariamente
engañosa en aspectos cruciales. Se ciñe a lo que se produce normalmente, no al
conocimiento del lenguaje codificado en el cerebro, el objeto primario que investigan
quienes quieren comprender la naturaleza del lenguaje y su uso. Ese objeto interno
determina una clase infinita de posibilidades que no se utilizarán en el comportamiento
normal debido a factores irrelevantes para el lenguaje, como las limitaciones de la memoria
a corto plazo; temas estudiados hace 60 años. Los datos observados también incluirán
buena parte de lo que queda fuera del sistema codificado en el cerebro, a menudo el uso
consciente del lenguaje de formas que violan las reglas con fines retóricos. Son obviedades
conocidas por todos los investigadores de campo, que recurren a técnicas de recolección
directa de datos con sujetos informantes, básicamente experimentos, para obtener un corpus
refinado que excluya las restricciones irrelevantes y las expresiones desviadas. Lo mismo
ocurre cuando los lingüistas se utilizan a sí mismos como fuentes de información, un
procedimiento perfectamente razonable y normal, habitual en la historia de la psicología
hasta la actualidad.
Si seguimos avanzando con la ciencia normal, descubrimos que los procesos y elementos
internos de la lengua no pueden detectarse mediante la inspección de los fenómenos
observados. A menudo, estos elementos ni siquiera aparecen en el habla (o la escritura),
aunque sus efectos, a menudo sutiles, pueden detectarse. Esa es otra razón por la que
restringirse a los fenómenos observados, como en los enfoques LLM, limita marcadamente
la comprensión de los procesos internos que son objeto central de la investigación sobre la
naturaleza del lenguaje, su adquisición y su uso. Pero eso no es relevante si se ha
abandonado la preocupación por la ciencia y la comprensión en favor de otros objetivos.
Más en general, en las ciencias, durante milenios se ha llegado a conclusiones mediante
experimentos -a menudo experimentos mentales-, siendo cada uno de ellos una abstracción
radical de los fenómenos. Los experimentos se basan en la teoría y tratan de descartar los
innumerables factores irrelevantes que intervienen en los fenómenos observados, como en
la actuación lingüística. Todo esto es tan elemental que rara vez se discute. Y familiar.
Como se ha señalado, la distinción básica se remonta a la distinción de Aristóteles entre
posesión del conocimiento y uso del conocimiento. El primero es el objeto central de
estudio. Los estudios secundarios (y bastante serios) investigan cómo sirve a la actuación el
sistema de conocimiento almacenado internamente, junto con los muchos factores no
lingüísticos que entran en lo que se observa directamente.
También podemos recordar una observación del biólogo evolutivo Theodosius
Dobzhansky, famoso sobre todo por su trabajo con la Drosophila: cada especie es única, y
los humanos son los más únicos de todos. Si nos interesa comprender qué clase de criaturas
somos -siguiendo el mandato del Oráculo de Delfos de hace 2.500 años-, nos ocuparemos
sobre todo de lo que hace que los humanos seamos los más únicos de todos, principalmente
el lenguaje y el pensamiento, estrechamente entrelazados, como reconoce una rica tradición
que se remonta a la Grecia clásica y la India. La mayor parte del comportamiento es
bastante rutinario y, por tanto, hasta cierto punto predecible. Lo que realmente nos hace
únicos es lo que no es rutinario, y lo encontramos, a veces mediante experimentos, a veces
mediante la observación, desde los niños en condiciones normales hasta los grandes artistas
y científicos.
Un último comentario al respecto. La sociedad lleva un siglo plagada de campañas masivas
por parte de empresas para fomentar el desprecio por la ciencia, temas bien estudiados por
Naomi Oreskes entre otros. Comenzó con compañías cuyos productos eran letales: el
plomo, el tabaco, el amianto y, más tarde, los combustibles fósiles. Sus motivos son
entendibles. El objetivo de una empresa en una sociedad capitalista es el beneficio, no el
bienestar humano. Es un hecho institucional: si no sigues el juego, te echan y te sustituye
otro que sí lo haga.
Los departamentos de marketing de las empresas reconocieron muy pronto que sería un
error negar las crecientes pruebas científicas de los efectos letales de sus productos. Eso
sería fácilmente refutable. Mejor sembrar la duda, fomentar la incertidumbre, el desprecio
por esos superexpertos de traje y corbata que nunca han pintado una casa, pero vienen de
Washington a decirme que no use pintura con plomo, destruyendo mi negocio (un caso real,
fácilmente multiplicable). Eso ha funcionado demasiado bien. Ahora mismo nos está
llevando por el camino de la destrucción de la vida humana organizada en la Tierra.
En ambientes intelectuales, la crítica posmoderna de la ciencia, desmontada por Jean
Bricmont y Alan Sokal, pero aún muy viva en algunos círculos, ha producido efectos
similares.
Puede que sea una sugerencia poco amable, pero creo que es justo preguntarse si los Tom
Jones y aquellos que repiten acríticamente e incluso amplifican sus descuidadas proclamas
están contribuyendo a las mismas tendencias nefastas.
CJP: ChatGPT es un chatbot basado en el lenguaje natural que utiliza la inteligencia
artificial para permitir conversaciones similares a las humanas. En un
reciente artículo publicado en The New York Times, junto con otros dos autores, usted
tachaba de bombo publicitario a los nuevos chatbots porque, sencillamente, no pueden
igualar la competencia lingüística de los humanos. ¿No es posible, sin embargo, que las
futuras innovaciones en IA produzcan proyectos de ingeniería que igualen y quizá incluso
superen las capacidades humanas?
NC: El crédito por el artículo debería atribuirse al autor real, Jeffrey Watumull, un
excelente matemático-lingüista-filósofo. Los dos coautores que figuran en la lista son
asesores que están de acuerdo con el artículo, pero no lo han escrito.
Es cierto que los chatbots no pueden en principio igualar la competencia lingüística de los
humanos, por las razones que hemos repetido antes. Su diseño básico les impide alcanzar la
condición mínima de adecuación para una teoría del lenguaje humano: distinguir los
lenguajes posibles de los imposibles. Dado que se trata de una propiedad del diseño, no
puede ser superada por futuras innovaciones en este tipo de IA. Sin embargo, es muy
posible que futuros proyectos de ingeniería igualen e incluso superen las capacidades
humanas, si nos referimos a la capacidad humana de actuación [performance] en el uso del
lenguaje. Como se ha señalado más arriba, algunos ya lo han hecho desde hace tiempo: las
calculadoras automáticas, por ejemplo. Y lo que es más interesante, como ya se ha
mencionado, insectos con cerebros minúsculos superan las capacidades humanas
entendidas como competencia.
CJP: En el citado artículo también se observaba que los proyectos de IA actuales no poseen
una facultad moral humana. ¿Este hecho tan obvio hace que los robots de IA sean una
amenaza menor para la raza humana? Creo que se puede argumentar que los hace incluso
más peligrosos.
NC: En efecto, es un hecho evidente, entendiendo la «facultad moral» en sentido amplio. A
menos que se controle cuidadosamente, la ingeniería de la IA puede plantear graves
amenazas. Supongamos, por ejemplo, que se automatizara el cuidado de los pacientes. Los
inevitables errores que el juicio humano es capaz de subsanar podrían dar lugar a una
historia de terror. O supongamos que se eliminara a los humanos de la evaluación de las
amenazas determinadas por los sistemas automatizados de defensa antimisiles. Como nos
informa un registro histórico estremecedor, eso sería el fin de la civilización humana.
CJP: Organismos reguladores y fuerzas de seguridad en Europa están mostrando su
preocupación por la propagación de ChatGPT, mientras que un texto legislativo de la Unión
Europea presentado recientemente intenta hacer frente a la IA clasificando dichas
herramientas según su nivel de riesgo percibido. ¿Está de acuerdo con los que temen que
ChatGPT suponga una grave amenaza pública? Además, ¿cree realmente que se puede
detener el desarrollo de herramientas de IA hasta que se introduzcan salvaguardias?
NC: Puedo simpatizar muy fácilmente con los esfuerzos por intentar controlar las amenazas
que plantea la tecnología avanzada, incluido este caso. Sin embargo, soy escéptico sobre la
posibilidad de hacerlo. Sospecho que el genio está fuera de la botella. Es probable que los
agentes maliciosos -institucionales o individuales- puedan encontrar formas de eludir las
salvaguardias. Estas sospechas no son, por supuesto, razón para no intentarlo y para
mantener la guardia.
1 Nota de traducción. El término performance en inglés, aquí traducido en un sentido más
transversal como ‘ejecución’, se denomina ‘actuación’ en el campo de la lingüística
moderna sobre las aportaciones del propio N.Chomsky.
(Segunda y última parte de la entrevista tomada de la publicación Sin permiso.info)
