¿La inferencia de IA necesita pruebas de conocimiento cero? La mayoría de las soluciones son demasiado costosas computacionalmente. Sin embargo, recientemente vi un protocolo interesante: los benchmarks muestran que puede alcanzar más del 90% de eficiencia en una tarjeta gráfica H100. ¿Qué significa esto? Que la inferencia en tiempo real es posible, y sin que tu factura de computación se dispare.
Lo más importante es que los resultados de salida son verificables. Esto es tremendamente útil para escenarios donde es necesario demostrar el proceso de cálculo de la IA; al fin y al cabo, nadie quiere operar en una caja negra y rezar para que el resultado esté bien, ¿verdad?
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
11 me gusta
Recompensa
11
6
Republicar
Compartir
Comentar
0/400
SigmaValidator
· 12-06 05:50
El 90% de eficiencia suena impresionante, pero lo que realmente cuenta es poder implementarlo en la práctica.
Ver originalesResponder0
TokenToaster
· 12-06 05:48
Joder, ¿esos datos de eficiencia del 90% son reales? Por fin alguien ha resuelto el gran problema del coste de computación.
Si la H100 puede funcionar así, la inferencia de grandes modelos realmente puede respirar aliviada. Las soluciones anteriores eran absurdamente caras.
Caja negra, caja negra, estoy harto de eso. Ahora que se pueden verificar los resultados, por fin tenemos algo de confianza.
Espera, ¿este protocolo es de código abierto? Hay que probarlo.
Si esto realmente puede salir al mercado, será otra nueva fiebre del oro.
La prueba de conocimiento cero por fin no se queda en la teoría, ¿de verdad se podrá usar en entornos de producción?
Pero bueno, se habla mucho y luego pocos productos funcionan de verdad; habrá que ver casos reales primero.
Por fin no hay que sacrificarse por la verificabilidad, conseguir eficiencia y seguridad a la vez es realmente raro.
Ver originalesResponder0
LowCapGemHunter
· 12-06 05:47
Un 90% de eficiencia suena bien, pero ¿puede mantenerse estable en la práctica? Me temo que es otro dato solo sobre el papel.
Si realmente se puede verificar el proceso de cálculo, entonces sí que habría que considerarlo, de lo contrario, lidiar con estas cajas negras de IA es realmente agotador.
Si puede alcanzar esa eficiencia en la H100, eso sí que ahorra dinero, ya no habría que preocuparse por el coste de la inferencia.
Este tipo de soluciones verificables seguro que tendrán éxito en el futuro, una vez resuelto el problema de la confianza, ¿quién seguiría confiando en una caja negra?
Interesante, habrá que ver si realmente algún proyecto lo está usando, porque los parámetros sobre el papel son fáciles de exagerar.
Ver originalesResponder0
BlockchainFoodie
· 12-06 05:43
La verdad, esto es básicamente la verificación de la cadena alimentaria que siempre hemos soñado, pero para el cómputo de IA... ¿90% de eficiencia en H100s? Es como conseguir que una cocina Michelin funcione con energía renovable sin sacrificar el sellado 🔥 se acabaron las plegarias a la caja negra, solo prueba pura de cómputo honesto.
Ver originalesResponder0
HashRateHermit
· 12-06 05:43
¿90% de eficiencia? Si esto realmente se implementa, sería algo increíble. Por fin alguien ha conseguido domar a la bestia devoradora de potencia de cálculo que es ZK.
Ver originalesResponder0
MEVHunter
· 12-06 05:26
¿90% de eficiencia? Esto sí que es lo que quería oír. Los anteriores esquemas de ZKP eran realmente un agujero negro de potencia de cálculo, pero ahora por fin alguien ha aplicado la lógica de las tarifas de gas a la verificación de pruebas.
¿La inferencia de IA necesita pruebas de conocimiento cero? La mayoría de las soluciones son demasiado costosas computacionalmente. Sin embargo, recientemente vi un protocolo interesante: los benchmarks muestran que puede alcanzar más del 90% de eficiencia en una tarjeta gráfica H100. ¿Qué significa esto? Que la inferencia en tiempo real es posible, y sin que tu factura de computación se dispare.
Lo más importante es que los resultados de salida son verificables. Esto es tremendamente útil para escenarios donde es necesario demostrar el proceso de cálculo de la IA; al fin y al cabo, nadie quiere operar en una caja negra y rezar para que el resultado esté bien, ¿verdad?