1. Introducción y Trayectoria de Sam Altman [0]

thumbnail

  1. Bienvenida al Seminario ETL [0]

    1. El seminario Entrepreneurial Thought Leader (ETL) se realiza en la Universidad de Stanford. [0]
    2. Es el seminario de Stanford para aspirantes a emprendedores. [1]
    3. ETL es presentado por STVP, BASIS y el Centro de Ingeniería de Emprendimiento de Stanford. [2]

  2. Presentación de Sam Altman [3]

    1. Ravi Belani, director de Alchemist, da la bienvenida a Sam Altman a ETL. [3]
    2. Sam Altman es cofundador y CEO de OpenAI. [4]
    3. OpenAI es la compañía de investigación y despliegue detrás de ChatGPT, DALL-E y Sora. [5]
    4. La vida de Altman es un patrón de romper límites y trascender lo posible para él y el mundo. [6]
    5. Trayectoria Educativa y Profesional:
    6. Creció en St. Louis, Midwest, y asistió a Stanford. [7]
    7. Tomó ETL como estudiante de pregrado y estudió informática por dos años. [8]
    8. Después de su segundo año, se unió a la clase inaugural de Y Combinator con Looped. [10]
    9. Looped era una aplicación social móvil que recaudó dinero de Sequoia y otros. [11]
    10. Dejó Stanford, pasó siete años en Looped (que fue adquirida), y luego regresó a Y Combinator. [12]
    11. Fue presidente de Y Combinator de 2014 a 2019. [13]
    12. En 2015, cofundó OpenAI como un laboratorio de investigación sin fines de lucro. [13]
    13. La misión de OpenAI es construir Inteligencia Artificial de Propósito General (AGI) que beneficie a toda la humanidad. [13]

  3. Logros Recientes y Datos Personales [14]

    1. OpenAI estableció un récord con ChatGPT, la aplicación de crecimiento más rápido en la historia. [14]
    2. ChatGPT alcanzó 100 millones de usuarios activos solo dos meses después de su lanzamiento. [14]
    3. Altman fue nombrado una de las 100 personas más influyentes de Time. [15]
    4. También fue nombrado CEO del Año de Time en 2023. [16]
    5. Recientemente fue añadido a la lista Forbes de los multimillonarios del mundo. [16]
    6. Vive en San Francisco con su esposo, divide su tiempo con Napa, y es vegetariano. [17]

  4. Reflexión Personal (Pasado vs. Presente) [19]

    1. La introducción fue más larga de lo que Altman hubiera querido. [19]
    2. El evento coincide con la semana de su cumpleaños (cumplió 39 el lunes). [20]
    3. Se le pregunta a Altman por tres palabras que describieran su sentir a los 19 años en ETL. [22]
    4. Sus tres palabras como estudiante fueron: Emocionado, Optimista y Curioso. [23]
    5. Sus tres palabras actuales son las mismas. [24]
    6. Altman señala que, aunque el mundo ha cambiado mucho en 19 años, el cambio en los próximos 19 será mucho mayor. [24]

2. El Mejor Momento para Emprender y la Importancia de la IA [25]

thumbnail

  1. Consejo para Estudiantes de Pregrado (Escenario Freaky Friday) [25]

    1. Si Altman se despertara mañana como un estudiante de 19 años en Stanford, se sentiría muy feliz. [26]
    2. Sentiría que está llegando a la mayoría de edad en el momento más afortunado, probablemente en varios siglos. [27]
    3. La oportunidad de impactar el mundo, ya sea iniciando una empresa o investigando IA, es notable. [28]
    4. Cree que este es probablemente el mejor momento para iniciar una empresa desde la era de Internet, o quizás en la historia de la tecnología. [30]
    5. Lo que se puede hacer con la IA será más notable cada año. [31]
    6. Las compañías más grandes y los productos más impactantes se crean en momentos como este. [31]
    7. Se sentiría increíblemente afortunado y determinado a aprovecharlo al máximo. [32]

  2. Decisión de Carrera (Investigación vs. Estudiante) [33]

    1. Probablemente no se quedaría como estudiante, basándose en su decisión anterior. [33]
    2. Cree que quedarse como estudiante es perfectamente bueno, pero no sería su elección. [34]
    3. Volvería a trabajar en investigación de IA. [38]
    4. Tiene un sesgo hacia OpenAI, pero estaría encantado de hacer investigación significativa en IA en cualquier lugar. [39]
    5. Con tristeza, elegiría la industria sobre la academia. [40]
    6. Esto se debe a que se necesita estar en el lugar con la mayor cantidad de computación (compute). [40]

  3. Consejo para Fundadores (Empezar Ahora vs. Unirse a una Empresa) [42]

    1. Se le pregunta si los estudiantes deben empezar una empresa a los 19/20 años o unirse a un laboratorio/venture existente. [43]
    2. Altman da el caso opuesto al de un invitado anterior (Kazer), que abogó por unirse a una empresa. [43]
    3. Se aprende mucho simplemente iniciando una empresa. [43]
    4. Paul Graham dice que no existe el pre-startup (como el pre-med). [43]
    5. Se aprende a dirigir una startup dirigiéndola. [44]
    6. Si se está seguro de querer fundar, es mejor empezar de inmediato. [44]

  4. Evitar Ideas Obvias para Startups [45]

    1. Se le pregunta por los desafíos a corto plazo en IA que son más propicios para una startup. [45]
    2. Altman se niega a responder, ya que nunca se debe tomar este tipo de consejo sobre qué startup iniciar. [46]
    3. Una idea lo suficientemente obvia para que él la diga probablemente no sea una gran idea de startup. [46]
    4. Es crucial trazar el propio camino para tener una carrera impactante. [47]
    5. Si la idea es algo que muchos otros harán, se debe ser escéptico. [48]
    6. Es importante desarrollar el músculo de generar ideas que no son obvias. [49]
    7. Cuando OpenAI comenzó, era una acción extremadamente no consensuada; ahora es obvia. [51]
    8. Altman cree que ahora solo tiene ideas obvias, pero la audiencia tiene las ideas no obvias. [52]

  5. Preguntas Actuales de OpenAI (Infraestructura y Producto) [53]

    1. Se le pregunta qué preguntas le preocupan a él que nadie más está discutiendo. [53]
    2. Cómo construir computadoras realmente grandes. [54]
    3. OpenAI lo está viendo a través de una lente que nadie más está imaginando todavía. [55]
    4. También están lidiando con la mejor manera de convertir la inteligencia de nivel PhD o superior en un producto. [56]
    5. No saben la mejor manera de tener un impacto positivo en la sociedad con esa inteligencia. [56]

3. Infraestructura de IA, Costos y Despliegue Iterativo [58]

thumbnail

  1. Visión de la Infraestructura de IA (Más Allá de las Fundiciones) [58]

    1. Se le pregunta sobre el esfuerzo de la fundición de semiconductores que se rumorea. [58]
    2. Altman aclara que no se trata solo de fundiciones. [59]
    3. Creen que la infraestructura de IA será uno de los insumos más importantes para el futuro. [60]
    4. Esta infraestructura es una commodity que todos querrán: energía, centros de datos, chips, diseño de chips y nuevos tipos de redes. [60]
    5. Necesitan hacer mucho más de todo este ecosistema. [61]
    6. No funcionará mirar solo una pieza; tienen que abordar el todo. [61]

  2. Costo Creciente de la Computación [63]

    1. La historia tecnológica humana es construir sistemas más grandes y complejos. [63]
    2. Se mencionan los costos de computación de modelos anteriores:
    3. GPT-3: $100 millones, 175 mil millones de parámetros. [64]
    4. GPT-4: $400 millones, 10 veces los parámetros (casi 4 veces el costo). [65]
    5. Altman confirma que el costo probablemente seguirá creciendo multiplicativamente con cada modelo subsiguiente. [71]

  3. Financiación y Valor de la IA [72]

    1. Se pregunta cómo capitalizarán ese costo creciente. [72]
    2. Altman cree que dar a las personas herramientas capaces para construir el futuro es valioso. [72]
    3. Está dispuesto a apostar por el ingenio de la gente para resolver esto. [73]
    4. Aunque alguien en OpenAI se preocupe por el gasto, a él no le preocupa. [73]

  4. La Estrategia de Despliegue Iterativo [75]

    1. Se le pregunta si le preocupa el modelo económico, dado que OpenAI quemó $520 millones en efectivo el año pasado. [75]
    2. Altman afirma que ChatGPT no es fenomenal, sino "ligeramente embarazoso en el mejor de los casos". [76]
    3. GPT-4 es el modelo más tonto que cualquiera tendrá que usar de nuevo. [77]
    4. Creen en el despliegue iterativo (ship early and often). [78]
    5. No es bueno construir AGI en un sótano mientras el mundo camina a ciegas. [79]
    6. Es importante expresar su visión de lo que creen que sucederá. [80]
    7. La forma de hacerlo es poner el producto en manos de la gente para que la sociedad coevolucione con la tecnología. [80]
    8. Esto permite que la sociedad indique lo que quiere, cómo productizar la tecnología y dónde funciona bien o mal. [81]
    9. Da tiempo a líderes e instituciones para reaccionar, y a la gente para integrar la herramienta en sus vidas. [81]
    10. Esto significa que envían productos imperfectos, pero tienen un ciclo de retroalimentación muy ajustado para mejorar. [84]
    11. Es mejor enviar un producto que avergüenza que la alternativa. [85]
    12. Han aprendido que "IA y sorpresa no van bien juntas". [86]
    13. La gente quiere un despliegue gradual y la capacidad de influir en estos sistemas. [87]
    14. El despliegue iterativo es el mejor enfoque actual, aunque podría cambiar en el futuro. [88]

  5. El Costo de AGI [89]

    1. A Altman no le importa si queman $500 millones, $5 mil millones o $50 mil millones al año. [89]
    2. Lo importante es mantenerse en una trayectoria donde eventualmente creen mucho más valor para la sociedad. [89]
    3. Deben encontrar una manera de pagar las cuentas. [89]
    4. Hacer AGI será caro, pero totalmente vale la pena. [90]

4. Visión de 2030 y la Definición de AGI [91]

thumbnail

  1. El Mundo en 2030 (AGI Abundante) [91]

    1. Se le pregunta cómo se vería el mundo en 2030 si OpenAI tuviera un éxito rotundo. [91]
    2. En algunos aspectos importantes, no sería tan diferente (la vida humana continuaría). [92]
    3. Tendrían una nueva gran herramienta: una inteligencia más inteligente que los humanos en muchos temas. [93]
    4. Esta herramienta podría realizar tareas complicadas, escribir programas complejos, hacer investigación o iniciar negocios. [93]
    5. Sería súper diferente porque tendrían inteligencia abundante al alcance de la mano. [94]
    6. En otro sentido, no sería diferente en absoluto. [94]

  2. La Definición Imprecisa de AGI [95]

    1. Altman había definido previamente AGI como software que imita la competencia de un humano promedio en tareas. [95]
    2. Él critica esta definición por ser demasiado vaga y susceptible a la mala interpretación. [98]
    3. Lo que la gente realmente quiere saber sobre el cronograma de AGI es:
    4. ¿Cuándo el mundo será súper diferente? [100]
    5. ¿Cuándo la tasa de cambio será súper alta? [100]
    6. ¿Cuándo la economía funcionará de manera realmente diferente? [100]
    7. ¿Cuándo cambiará mi vida? [100]
    8. Esto puede ser muy diferente de lo que se piensa. [100]
    9. Altman imagina un mundo donde se construye inteligencia de nivel PhD, lo que aumenta la productividad de los investigadores. [101]
    10. Sin embargo, es posible que no se detecte ningún cambio en el crecimiento del PIB global durante años después de ese logro. [102]

  3. El Cronograma de la Capacidad de los Sistemas [103]

    1. Altman ha renunciado a dar un cronograma preciso para AGI. [103]
    2. Cree que cada año, durante muchos años, tendrán sistemas dramáticamente más capaces. [103]
    3. Este es el punto importante. [103]

5. Peligros de la IA y la Adaptación Social [104]

thumbnail

  1. Preocupación por los Peligros Sutiles [104]

    1. Se le pregunta si le preocupan más los peligros cataclísmicos (que acaparan los periódicos) o los sutiles y perniciosos (como el TDA por TikTok). [107]
    2. Altman está más preocupado por los peligros sutiles porque es más probable que se pasen por alto. [108]
    3. Los peligros cataclísmicos son serios, pero mucha gente habla y piensa en ellos. [109]
    4. Al menos saben que deben estar atentos a los peligros cataclísmicos. [110]
    5. El ejemplo del TDA por TikTok fue un desconocido desconocido (unknown unknown) que no se anticipó. [111]
    6. Los desconocidos desconocidos son muy difíciles, por lo que le preocupan más, aunque le preocupan ambos. [112]
    7. No puede nombrar los desconocidos desconocidos, ya que dejarían de serlo. [113]

  2. La Adaptación de la Sociedad [114]

    1. Aunque a corto plazo las cosas cambian menos de lo que se piensa, a largo plazo cambian más. [114]
    2. Le preocupa la tasa a la que la sociedad puede adaptarse a algo tan nuevo. [114]
    3. Le preocupa cuánto tiempo tardarán en establecer el nuevo contrato social versus el tiempo que tienen para hacerlo. [115]

6. Resiliencia, Autoconciencia y Motivaciones [118]

thumbnail

  1. Resiliencia y Adaptabilidad [118]

    1. Se introduce el tema de la resiliencia en el currículo de Stanford. [119]
    2. Altman cree que la resiliencia puede enseñarse. [122]
    3. Siempre ha sido una habilidad vital importante. [123]
    4. En las próximas décadas, la resiliencia y la adaptabilidad serán más importantes que en mucho tiempo. [124]

  2. Fortalezas y Debilidades [125]

    1. Altman cree que es autoconsciente, pero es difícil de decir desde dentro. [125]
    2. Mayor Fortaleza: No es excelente en muchas cosas, pero es bueno en muchas cosas (breadth). [126]
    3. La amplitud se ha subestimado en un mundo hiperespecializado. [127]
    4. Ser bueno en muchas cosas permite buscar conexiones y generar ideas diferentes. [128]
    5. Debilidad más Peligrosa: Un sesgo general a ser demasiado pro-tecnología. [131]
    6. Cree que la tecnología es un bien neto, pero esta visión no siempre es cierta. [131]
    7. Cuando no ha sido cierta, ha sido bastante malo para mucha gente. [132]

  3. Motivaciones (Marco de McClelland) [133]

    1. Se le pregunta sobre sus necesidades primarias: afiliación (ser querido), logro o poder. [133]
    2. Altman dice que ha pasado por todas ellas en varios momentos de su carrera. [134]
    3. Actualmente, se siente impulsado por querer hacer algo útil e interesante. [136]
    4. Definitivamente tuvo fases de dinero, poder y estatus. [137]

7. El Futuro de GPT y la Innovación Humana [137]

thumbnail

  1. Lo Más Emocionante de GPT-5 [137]

    1. Se le pregunta qué le emociona más de la próxima versión de ChatGPT. [137]
    2. La respuesta es que simplemente será más inteligente. [138]
    3. Este es uno de los hechos más notables de la historia humana. [139]
    4. Se puede decir con certeza científica que GPT-5 será mucho más inteligente que GPT-4. [139]
    5. GPT-6 será mucho más inteligente que GPT-5. [139]
    6. No están cerca de la cima de esta curva y saben qué hacer. [139]
    7. La mejora no será solo en un área, sino que será más inteligente en el sentido general. [140]
    8. La gravedad de esta afirmación sigue siendo subestimada. [141]

  2. Despliegue Responsable y la Innovación Humana [143]

    1. Un estudiante pregunta cómo planean desplegar AGI de manera responsable para evitar sofocar la innovación humana. [145]
    2. Altman no está preocupado en absoluto por sofocar la innovación humana. [147]
    3. Cree profundamente que la gente sorprenderá al alza con mejores herramientas. [148]
    4. La historia sugiere que dar más apalancamiento a la gente resulta en cosas más asombrosas. [149]
    5. Está cada vez más preocupado por cómo hacerlo de manera responsable. [150]
    6. A medida que los modelos sean más capaces, el listón será más alto. [151]
    7. Realizan red teaming y auditorías externas. [152]
    8. Tendrán que desplegar aún más iterativamente y tener un ciclo de retroalimentación más ajustado. [152]
    9. Necesitan aumentar la granularidad del despliegue, en lugar de lanzar una actualización importante cada pocos años. [153]
    10. Esto será clave para el despliegue responsable. [153]
    11. La negociación de las reglas de la IA entre todas las partes interesadas se volverá más compleja. [154]

8. Acceso Global a la Computación y el Futuro de la Energía [156]

thumbnail

  1. Impacto en la Innovación Global (Infraestructura) [156]

    1. Se pregunta cómo la falta de infraestructura en muchas partes del mundo impactará la innovación global. [157]
    2. Acceso Equitativo: Es súper importante que haya acceso global y equitativo para usar las computadoras (entrenamiento e inferencia). [159]
    3. OpenAI hace que ChatGPT esté disponible de forma gratuita para la mayoría de las personas. [160]
    4. Hacer que la computación de entrenamiento sea más accesible para el mundo será cada vez más importante. [162]
    5. Altman cree que el acceso a una cierta cantidad de computación se considerará un derecho humano. [163]
    6. Infraestructura Nacional: Los países se darán cuenta de la importancia de tener su propia infraestructura de IA. [164]
    7. OpenAI está viajando para ayudar a construir esta infraestructura en muchos países. [164]

  2. IA y Exploración Espacial [167]

    1. El espacio no es hospitalario para la vida biológica. [168]
    2. Si pueden enviar robots, parece más fácil. [168]

  3. Verificación de Ideas No Consensuadas [169]

    1. Un fundador pregunta cómo saber si una idea es no consensuada. [169]
    2. Prioridad: Estar en lo Correcto: Lo que realmente se quiere es estar en lo correcto; ser contrarian y estar equivocado sigue siendo estar equivocado. [175]
    3. El mayor valor se encuentra cuando se es contrarian y se está en lo correcto. [177]
    4. Es aceptable seguir la sabiduría convencional (ej. la IA es el lugar para empezar). [179]
    5. Luego, se debe encontrar el área donde se tiene una visión única sobre cómo ejecutarlo. [179]
    6. Rodearse del grupo de pares adecuado y encontrar pensadores originales es importante. [180]
    7. Hay una parte que debe hacerse en solitario o con cofundadores. [180]
    8. Es crucial aprender a confiar en la propia intuición y proceso de pensamiento. [181]
    9. Esta habilidad mejora con el tiempo, ya que la presión social y evolutiva está en contra de ello. [181]
    10. No se debe exigir un estándar demasiado alto al principio. [182]

  4. Demanda de Energía y Fuentes Renovables [183]

    1. Se pregunta cómo cambiará la demanda de energía y cómo lograr fuentes renovables a $0.01 por kWh. [183]
    2. Demanda: Altman espera que la demanda de energía suba mucho. [186]
    3. La capacidad de generación eléctrica mundial es de unos 3,000-4,000 gigavatios. [189]
    4. Añadir 100 gigavatios para IA no cambia materialmente el total, pero 1 teravatio sí lo haría. [190]
    5. La energía se correlaciona mucho con la calidad de vida. [192]
    6. Fuentes Futuras: Su conjetura es que la fusión eventualmente dominará la generación eléctrica en la Tierra. [193]
    7. Cree que la fusión debería ser la fuente más barata, abundante, confiable y densa. [194]
    8. Podría ser solar más almacenamiento. [195]
    9. Las dos apuestas para energía a escala global de un centavo por kWh son la fusión y la solar más almacenamiento. [196]

9. Lecciones del Despido y la Estructura de OpenAI [197]

thumbnail

  1. Lecciones del Despido Temporal [197]

    1. Se le pregunta por la lección aprendida de su despido y regreso. [197]
    2. Lección Principal: Tenían un equipo increíble que podría haber dirigido la empresa sin él. [198]
    3. El equipo fue súper resiliente bajo presión. [199]
    4. Sabían que ocurrirían cosas locas entre el presente y AGI, y el experimento demostró la resiliencia del equipo. [199]
    5. Razón del Regreso: Inicialmente se negó, pero luego se dio cuenta de cuánto amaba OpenAI. [202]
    6. Amaba a la gente, la cultura y la misión, y quería terminar el trabajo juntos. [203]

  2. La Estructura Organizacional de OpenAI (Non-Profit/For-Profit) [204]

    1. Se pregunta sobre la estructura de muñeca rusa de OpenAI (la organización sin fines de lucro es dueña de la con fines de lucro). [204]
    2. Altman admite que no es lo que elegiría si pudiera empezar de nuevo. [205]
    3. Intención Original: Cuando comenzaron, no pensaron que tendrían un producto; solo serían un laboratorio de investigación de IA. [206]
    4. No tenían idea de un modelo de lenguaje, API o ChatGPT. [208]
    5. No se dieron cuenta de que necesitarían tanto dinero para la computación ni que tendrían un negocio rentable. [210]
    6. Su intención pura era impulsar la investigación de IA. [211]
    7. No había motivación de hacer dinero o poder (Altman ya había ganado mucho dinero). [213]
    8. Inferencia de Principios: La estructura actual (valoración de casi cien mil millones, junta sin fines de lucro limitada) es un resultado gradual. [218]
    9. La junta sin fines de lucro debe velar por la humanidad, no por los accionistas. [228]
    10. Adaptación: No se puede vivir la vida al revés; hay que adaptarse. [219]
    11. Estaban en lo correcto en lo importante: la IA sería muy importante y el algoritmo mejoraba con la escala. [221]
    12. Su misión no ha cambiado, y han adaptado la estructura y lo harán más en el futuro. [223]
    13. El consejo es confiar en uno mismo para adaptarse sobre la marcha, aunque sea un poco desordenado. [225]

  3. Incentivos y la Junta Directiva [228]

    1. Se señala que la junta debe ser financieramente independiente, sin incentivos financieros en OpenAI. [229]
    2. Altman cree que hacer dinero y el capitalismo son buenos. [230]
    3. Sus cofundadores en la junta tenían intereses financieros, pero siempre tomaron en serio la misión. [231]
    4. Han implementado una estructura para alinear incentivos, que él cree que son superpoderes. [232]
    5. La estructura evolucionará más con el tiempo. [232]
    6. Altman no recibe carry en el nuevo fondo de OpenAI ni sigue las inversiones. [233]

10. Geopolítica, Inseguridades de la IA y Cultura de OpenAI [237]

thumbnail

  1. Impacto Geopolítico de AGI [237]

    1. AGI cambiará la geopolítica y el equilibrio de poder más que cualquier otra tecnología. [237]
    2. Es difícil decir exactamente qué hará, pero cambiará mucho el equilibrio de poder. [239]

  2. Reconocimiento de Inseguridades en la IA [241]

    1. Se pregunta si los sistemas de IA deberían ser capaces de reconocer y comunicar sus propias inseguridades o incertidumbres. [241]
    2. Altman se pone nervioso al antropomorfizar demasiado la IA. [241]
    3. Es muy importante construir la capacidad de la IA para reconocer sus propios fallos (flaws). [241]
    4. La capacidad de reconocer un error en el razonamiento y tener introspección es importante de perseguir. [241]

  3. Cultura y Misión de OpenAI [242]

    1. Se pregunta por la razón detrás de la cultura de unidad y la intensidad de OpenAI. [243]
    2. Altman cree que es la misión compartida. [245]
    3. La gente se siente en las trincheras haciendo algo muy difícil. [245]
    4. Es un profundo sentido de propósito y lealtad a la misión. [246]
    5. Cuando se crea eso, es la fuerza más fuerte para el éxito en cualquier startup. [246]
    6. Seleccionan a personas con esa mentalidad. [247]
    7. Incluso los escépticos tienden a creer en la importancia de AGI después de tres meses. [248]
    8. Esto es una fuerza cultural muy poderosa. [248]

11. Mal Uso de la IA y el Futuro de la Capacidad Humana [250]

thumbnail

  1. Mitigación del Mal Uso de la IA [250]

    1. Existen preocupaciones sobre el mal uso de la IA a corto plazo (conflictos globales, elecciones). [250]
    2. Es importante no pretender que esta tecnología es totalmente buena. [252]
    3. Altman cree que la IA será un bien neto tremendo. [252]
    4. Como cualquier herramienta poderosa (ej. un martillo), será mal utilizada. [253]
    5. Esto no absuelve a la industria o a la sociedad de mitigar lo malo y maximizar lo bueno. [254]
    6. Una herramienta suficientemente poderosa pone poder en manos de los usuarios. [254]
    7. Los gobiernos y representantes electos tienen la voz más fuerte en esto. [256]
    8. La sociedad no lo hará perfectamente bien. [257]
    9. Un ciclo de retroalimentación ajustado es la mejor manera de acercarse a lo correcto. [257]
    10. El equilibrio entre seguridad, libertad y autonomía debe negociarse. [258]

  2. El Miedo a Crear Algo Más Inteligente que los Humanos [270]

    1. Se pregunta si la perspectiva de crear algo más inteligente que cualquier humano le asusta. [270]
    2. Altman responde que por supuesto que sí, y sería una mala señal si no lo hiciera. [270]
    3. La Sociedad como AGI: Los humanos son dramáticamente más capaces que sus tatarabuelos. [271]
    4. Esto no se debe a la deriva biológica, sino a que la infraestructura de la sociedad es mucho más inteligente y capaz que cualquier humano. [274]
    5. La sociedad es un AGI, en la medida en que se puede decir. [276]
    6. Esto sucedió a través del andamio (scaffolding) que se construye entre todos. [277]
    7. Las cosas que son más inteligentes que nosotros contribuirán a ese mismo andamio. [278]
    8. Los niños tendrán herramientas que sus padres no tuvieron, y el andamio habrá crecido. [279]
    9. Esto siempre da un poco de miedo, pero es mucho más bueno que malo. [279]
    10. La gente resolverá más problemas y hará mejores cosas. [279]
    11. Si la IA hace descubrimientos científicos, estos se añaden al andamio. [280]
    12. La gente sentirá que cualquier persona individual puede hacer más, no que hay una entidad mucho más inteligente. [281]