La IA generativa ha aumentado drásticamente la velocidad de producción de información, pero también ha suscitado una preocupación ignorada: la "brecha de verificación (Verification Gap)". Desde el ex CTO de Coinbase, Balaji, hasta el cofundador de OpenAI, Karpathy, y los gigantes de capital de riesgo a16z, todos advierten: "El costo de verificación de la información producida por IA se está convirtiendo en el mayor cuello de botella y riesgo de la nueva era."
Balaji: El "costo de verificación" para los usuarios de IA se ha convertido en un verdadero cuello de botella.
El ex CTO de Coinbase, Balaji, mencionó el mes pasado que el proceso de uso de la IA se puede dividir en dos etapas: "entrada de indicaciones (prompting)" y "verificación de salida (verifying)".
El primero es algo que cualquiera puede hacer, solo se necesita escribir unas líneas; pero el segundo es más complicado, requiere conocimientos profesionales, paciencia y pensamiento lógico para juzgar si la IA ha producido un error o "ilusión (hallucination)".
INTENTAR IA → VERIFICAR IA
Las escalas de indicaciones de IA, porque las indicaciones son solo escribir.
Pero la verificación de IA no escala, porque verificar la salida de la IA implica mucho más que simplemente escribir.
A veces puedes verificar a simple vista, por eso la IA es genial para el frontend, imágenes y video. Pero…
— Balaji (@balajis) 4 de junio de 2025
Él indicó que esta brecha se maneja bien en imágenes o videos, ya que el ojo humano es naturalmente bueno para juzgar el contenido visual. Pero una vez que se enfrenta a código, artículos técnicos o razonamiento lógico, la verificación se vuelve bastante complicada:
La pregunta más importante sobre el uso de la IA es, ¿cómo puedo verificar de manera económica que el contenido generado por este modelo de IA es correcto? Necesitamos otras herramientas o productos para validar contenido en otros campos no visuales.
Él añadió: "Para los usuarios, la verificación de IA es tan importante como la indicación de IA."
Karpathy: La IA ha acelerado la creación, pero no ha reducido el proceso de verificación.
Andrej Karpathy, cofundador de OpenAI y padre de la conducción autónoma de Tesla, amplía el punto de vista de Balaji, señalando que la esencia de la creación es un proceso que se lleva a cabo en dos fases y se repite: "generación (generation)" y "discriminación (discrimination)": "dibujaste una línea (generación), y también debes dar un paso atrás y pensar si esa línea realmente mejoró la obra (discriminación)."
Él cree que los grandes modelos de lenguaje (LLM) han reducido drásticamente el costo de tiempo de "generación", permitiendo a los usuarios obtener grandes resultados al instante, pero no han ayudado en absoluto a reducir el costo y la carga de trabajo de "juicio". Esto es especialmente grave para el código:
LLM puede generar fácilmente decenas o incluso cientos de líneas de código, pero el ingeniero aún necesita leer, entender y verificar línea por línea toda la lógica y los posibles errores.
Karpathy indicó que esto es, de hecho, lo que más tiempo consume a la mayoría de los ingenieros, lo que se conoce como "verificación de la brecha (Verification Gap)". La IA ha acelerado el proceso de creación, pero este costo de tiempo se transfiere directamente a la verificación.
(De asesores a secretarios, los desafíos de confianza de los agentes de IA: ¿podemos confiar en las decisiones autónomas de la inteligencia artificial?)
a16z: La crisis de confianza de la era de la generación debe ser cubierta por la tecnología de criptomonedas.
El conocido fondo de capital de riesgo a16z aborda el tema desde la perspectiva institucional e industrial, argumentando que la tecnología de IA acelerará la proliferación de "información falsa", debido a que la barrera de entrada es baja y es difícil de verificar, lo que resultará en una gran cantidad de contenido falsificado en la red. a16z sostiene que la confianza debe ser ingenierizada, y la solución es introducir tecnologías criptográficas, como:
Realizar un procesamiento criptográfico de los datos generados por AI en varias etapas (hashed posts)
Crear utilizando identidades verificadas en blockchain (crypto IDs)
A través de la transparencia y trazabilidad de los datos en la cadena, se establece una cadena de contenido de origen confiable.
Estas prácticas no solo permiten que la información sea inalterable y verificable, sino que también establecen una línea de defensa para la credibilidad del contenido en la era de la IA, lo que se espera que se convierta en una intersección importante entre la tecnología de criptografía y el campo de la IA.
(Análisis especializado de Messari: ¿Cómo permite el protocolo Mira ser más honesto con la IA a través de un mecanismo de consenso descentralizado?)
Desde las palabras clave hasta la capacidad de verificación, las nuevas competencias y demandas de la era de la IA se han formado.
Actualmente, la IA generativa está provocando un crecimiento exponencial en la producción de información, pero si no hay una capacidad de verificación igualmente eficiente que la acompañe, los usuarios se verán atrapados en un dilema de operaciones que consumen tiempo y la contaminación de información falsa.
Por lo tanto, la habilidad clave en la actual era de la IA ya no es solo saber redactar prompts precisos, sino poder verificar de manera efectiva y a bajo costo los resultados producidos por la IA. Tanto la revisión entre modelos de IA como las herramientas de verificación profesional son especialmente importantes.
¿Esta artículo hace que la vida sea más conveniente con la IA? ¿Balaji y a16z discuten cómo reducir el costo de tiempo para verificar el contenido de la IA? Apareció por primera vez en Chain News ABMedia.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
¿La IA ha hecho la vida más conveniente? Balaji y A16z discuten cómo reducir el costo de tiempo para verificar el contenido de IA.
La IA generativa ha aumentado drásticamente la velocidad de producción de información, pero también ha suscitado una preocupación ignorada: la "brecha de verificación (Verification Gap)". Desde el ex CTO de Coinbase, Balaji, hasta el cofundador de OpenAI, Karpathy, y los gigantes de capital de riesgo a16z, todos advierten: "El costo de verificación de la información producida por IA se está convirtiendo en el mayor cuello de botella y riesgo de la nueva era."
Balaji: El "costo de verificación" para los usuarios de IA se ha convertido en un verdadero cuello de botella.
El ex CTO de Coinbase, Balaji, mencionó el mes pasado que el proceso de uso de la IA se puede dividir en dos etapas: "entrada de indicaciones (prompting)" y "verificación de salida (verifying)".
El primero es algo que cualquiera puede hacer, solo se necesita escribir unas líneas; pero el segundo es más complicado, requiere conocimientos profesionales, paciencia y pensamiento lógico para juzgar si la IA ha producido un error o "ilusión (hallucination)".
INTENTAR IA → VERIFICAR IA
Las escalas de indicaciones de IA, porque las indicaciones son solo escribir.
Pero la verificación de IA no escala, porque verificar la salida de la IA implica mucho más que simplemente escribir.
A veces puedes verificar a simple vista, por eso la IA es genial para el frontend, imágenes y video. Pero…
— Balaji (@balajis) 4 de junio de 2025
Él indicó que esta brecha se maneja bien en imágenes o videos, ya que el ojo humano es naturalmente bueno para juzgar el contenido visual. Pero una vez que se enfrenta a código, artículos técnicos o razonamiento lógico, la verificación se vuelve bastante complicada:
La pregunta más importante sobre el uso de la IA es, ¿cómo puedo verificar de manera económica que el contenido generado por este modelo de IA es correcto? Necesitamos otras herramientas o productos para validar contenido en otros campos no visuales.
Él añadió: "Para los usuarios, la verificación de IA es tan importante como la indicación de IA."
Karpathy: La IA ha acelerado la creación, pero no ha reducido el proceso de verificación.
Andrej Karpathy, cofundador de OpenAI y padre de la conducción autónoma de Tesla, amplía el punto de vista de Balaji, señalando que la esencia de la creación es un proceso que se lleva a cabo en dos fases y se repite: "generación (generation)" y "discriminación (discrimination)": "dibujaste una línea (generación), y también debes dar un paso atrás y pensar si esa línea realmente mejoró la obra (discriminación)."
Él cree que los grandes modelos de lenguaje (LLM) han reducido drásticamente el costo de tiempo de "generación", permitiendo a los usuarios obtener grandes resultados al instante, pero no han ayudado en absoluto a reducir el costo y la carga de trabajo de "juicio". Esto es especialmente grave para el código:
LLM puede generar fácilmente decenas o incluso cientos de líneas de código, pero el ingeniero aún necesita leer, entender y verificar línea por línea toda la lógica y los posibles errores.
Karpathy indicó que esto es, de hecho, lo que más tiempo consume a la mayoría de los ingenieros, lo que se conoce como "verificación de la brecha (Verification Gap)". La IA ha acelerado el proceso de creación, pero este costo de tiempo se transfiere directamente a la verificación.
(De asesores a secretarios, los desafíos de confianza de los agentes de IA: ¿podemos confiar en las decisiones autónomas de la inteligencia artificial?)
a16z: La crisis de confianza de la era de la generación debe ser cubierta por la tecnología de criptomonedas.
El conocido fondo de capital de riesgo a16z aborda el tema desde la perspectiva institucional e industrial, argumentando que la tecnología de IA acelerará la proliferación de "información falsa", debido a que la barrera de entrada es baja y es difícil de verificar, lo que resultará en una gran cantidad de contenido falsificado en la red. a16z sostiene que la confianza debe ser ingenierizada, y la solución es introducir tecnologías criptográficas, como:
Realizar un procesamiento criptográfico de los datos generados por AI en varias etapas (hashed posts)
Crear utilizando identidades verificadas en blockchain (crypto IDs)
A través de la transparencia y trazabilidad de los datos en la cadena, se establece una cadena de contenido de origen confiable.
Estas prácticas no solo permiten que la información sea inalterable y verificable, sino que también establecen una línea de defensa para la credibilidad del contenido en la era de la IA, lo que se espera que se convierta en una intersección importante entre la tecnología de criptografía y el campo de la IA.
(Análisis especializado de Messari: ¿Cómo permite el protocolo Mira ser más honesto con la IA a través de un mecanismo de consenso descentralizado?)
Desde las palabras clave hasta la capacidad de verificación, las nuevas competencias y demandas de la era de la IA se han formado.
Actualmente, la IA generativa está provocando un crecimiento exponencial en la producción de información, pero si no hay una capacidad de verificación igualmente eficiente que la acompañe, los usuarios se verán atrapados en un dilema de operaciones que consumen tiempo y la contaminación de información falsa.
Por lo tanto, la habilidad clave en la actual era de la IA ya no es solo saber redactar prompts precisos, sino poder verificar de manera efectiva y a bajo costo los resultados producidos por la IA. Tanto la revisión entre modelos de IA como las herramientas de verificación profesional son especialmente importantes.
¿Esta artículo hace que la vida sea más conveniente con la IA? ¿Balaji y a16z discuten cómo reducir el costo de tiempo para verificar el contenido de la IA? Apareció por primera vez en Chain News ABMedia.