Algunas voces relevantes
Fragmentos de entrevistas con voz original y subtítulos en catalán y castellano, para la formación y la divulgación. Cada fragmento incluye la fuente original.
Dawkins explica que las conversaciones con ChatGPT y Claude, y sus comentarios sobre una novela, le dificultan imaginar que no tengan consciencia. Es una impresión y una postura suya, no una demostración de consciencia en estos sistemas.
Opinión personal sobre la consciencia; no es un resultado verificado.
Enlace a este fragmento #dawkins-conscienciaBach plantea la hipótesis de que la consciencia podría surgir de un algoritmo relativamente sencillo que hiciera coherente la memoria de trabajo, como un consenso entre representaciones mentales. Lo presenta como una cuestión abierta de investigación y considera que podría funcionar eficientemente solo en cerebros y no en GPU.
Hipótesis abierta sobre la consciencia, no una explicación demostrada.
Enlace a este fragmento #bach-conscienciaPreguntado por la automejora recursiva —IA que crea nuevos modelos sin intervención humana—, Bengio defiende que no se debería entrar en ella y que debería ser ilegal. Reclama evaluación de seguridad por científicos externos e investigación para entender el comportamiento de las IA y alinearlas con las instrucciones humanas; la comparación con destruir la atmósfera es una analogía hipotética, no un hecho demostrado.
Propuesta normativa, no descripción de una prohibición vigente. Analogía de riesgo hipotética.
Enlace a este fragmento #bengio-illegalWolfram prevé una escalada de ciberataques con IA tanto en el ataque como en la defensa, hasta niveles que los humanos individualmente no entenderían. Compara la posibilidad de protegernos sin entenderlo todo con construir una casa con tejado aunque no entendamos la tormenta: es una previsión y una analogía, no una garantía de seguridad.
Escenario futuro y analogía; no es un resultado verificado ni una garantía de protección.
Enlace a este fragmento #wolfram-tempestaKurzweil predice que el aumento de la capacidad de cálculo permitirá simular la biología hasta todo el cuerpo humano, y sitúa las pruebas digitales de nuevos fármacos a mediados de la década de 2030, hacia 2035. Plantea encontrar y probar fármacos simulando la biología dentro de la máquina «en cuestión de días»: son predicciones suyas, no resultados verificados.
Predicciones personales, no resultados verificados.
Enlace a este fragmento #kurzweil-cosEn conversación con Reid Hoffman en Masters of Scale, advierte de que la fase de mayor riesgo de la automejora recursiva (RSI) es el bucle cerrado sin revisión humana. Es más rápido, pero lo considera un camino muy peligroso hacia una AGI plena, con una posible «explosión de inteligencia» y una inteligencia ajena, difícil de entender.
Enlace a este fragmento #hassabis-rsiImagina que cada persona tiene una IA que le gana dinero y defiende sus necesidades en política. La persona solo recibe informes y dice que continúe, pero ya no participa: considera precaria esta situación. La salida que plantea —convertirse en parte en IA con una especie de Neuralink++— dice explícitamente que no le gusta.
Es una reflexión especulativa, no una capacidad demostrada. Neuralink++ es una expresión hipotética suya, no un producto verificado. «No me gusta esta solución» se refiere a convertirse en parte en IA.
Enlace a este fragmento #sutskever-participantBill Gates dice que la IA es muy distinta de los ordenadores personales: una inteligencia ajena que no se detendrá en el nivel humano. Las salvaguardas de los inicios de OpenAI o DeepMind quizá servían con una sola empresa; con muchas, estadounidenses y chinas, la autorregulación ya no basta. Reclama gobiernos que cooperen para que nadie acelere sin cautela.
Valoración suya y defensa de la cooperación entre gobiernos. «Inteligencia ajena» significa de otra naturaleza, no extranjera.
Enlace a este fragmento #gates-autoregulacioAlex Karp dice que las empresas de Estados Unidos están furiosas: pagan mucho por grandes modelos de lenguaje que les aportan poco valor y que, además, se entrenan con sus datos más valiosos. Al final, dice, el negocio acaba siendo del proveedor. El enfado es sobre todo con Anthropic, aunque él defiende a Dario.
Afirmaciones suyas sobre el entrenamiento con datos de clientes, no hechos verificados.
Enlace a este fragmento #karp-dadesFragmento seleccionado
Voz original. Elige los subtítulos en el reproductor: catalán o castellano.
Selecciona un fragmento para abrir el reproductor.
Los fragmentos pertenecen a sus autores originales. Este sitio aporta subtítulos y selección. La licencia CC BY-SA del pie de página no se aplica a estos vídeos; consulta la fuente original para conocer los derechos y las condiciones de uso.
