Manus logra resultados revolucionarios en las pruebas de referencia de GAIA, generando controversia sobre la trayectoria del desarrollo de la IA
Manus ha demostrado un rendimiento excepcional en el Indicador de referencia GAIA, superando a modelos de lenguaje de gran tamaño de nivel similar. Este logro indica que Manus tiene la capacidad de completar tareas complejas de forma independiente, como manejar negociaciones comerciales internacionales, incluyendo el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. Las ventajas de Manus se reflejan principalmente en tres aspectos: descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
La aparición de Manus ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿el futuro se dirige hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un dominio colaborativo de sistemas multiagente (MAS)?
Este problema implica la filosofía de diseño de Manus, sugiriendo dos posibles direcciones de desarrollo:
Ruta de AGI: A través de la mejora continua de las capacidades de un único sistema inteligente, acercándolo gradualmente al nivel de toma de decisiones integral de los humanos.
Ruta MAS: posicionar a Manus como el coordinador supremo, dirigiendo la colaboración de miles de agentes especializados en diferentes campos.
Superficialmente, se trata de una divergencia en la ruta tecnológica, pero en realidad refleja una contradicción fundamental en el desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? A medida que un sistema de inteligencia única se acerca a la AGI, el riesgo de falta de transparencia en su proceso de toma de decisiones aumenta; mientras que la colaboración de múltiples agentes inteligentes puede dispersar el riesgo, pero puede perder momentos clave de decisión debido a la latencia en la comunicación.
El progreso de Manus amplifica sin querer los riesgos inherentes al desarrollo de la IA. Por ejemplo:
Problemas de privacidad de datos: en el ámbito médico, Manus podría necesitar acceder en tiempo real a los datos genómicos de los pacientes; en las negociaciones financieras, podría involucrar información financiera no divulgada de la empresa.
Sesgo algorítmico: Durante el proceso de contratación, Manus puede dar recomendaciones salariales injustas a ciertos grupos; al revisar contratos legales, puede haber una tasa de error de hasta el 50% en los términos de las industrias emergentes.
Vulnerabilidad de ataque adversarial: los hackers pueden implantar señales de audio específicas, lo que lleva a Manus a juzgar erróneamente el rango de ofertas de su oponente durante las negociaciones.
Estos problemas destacan una tendencia preocupante: cuanto más potentes son los sistemas inteligentes, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad ha sido un tema de gran preocupación. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha inspirado el desarrollo de diversas tecnologías criptográficas:
Modelo de seguridad de cero confianza: siguiendo el principio de "nunca confiar, siempre verificar", se lleva a cabo una rigurosa autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): un estándar de identificación que no requiere una autoridad de registro centralizada, logrando una nueva forma de gestión de identidades digitales descentralizadas.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado encriptado, adecuada para escenarios de computación en la nube y externalización de datos que requieren proteger los datos originales.
En estas tecnologías, la criptografía homomórfica completa se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede proporcionar protección en los siguientes niveles:
Capa de datos: toda la información ingresada por el usuario (incluidas las características biométricas, la voz, etc.) se procesa en estado cifrado, incluso Manus no puede descifrar los datos originales.
Capa de algoritmo: lograr "entrenamiento de modelos cifrados" a través de FHE, de modo que incluso los desarrolladores no puedan comprender directamente el proceso de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, lo que significa que incluso si un nodo individual es comprometido, no se producirá una filtración de datos global.
Aunque la tecnología de seguridad de Web3 puede parecer lejana para el usuario promedio, está estrechamente relacionada con los intereses de todos. En este entorno lleno de desafíos, fortalecer constantemente las medidas de seguridad es clave para evitar convertirse en "韭菜".
Varios proyectos dignos de atención incluyen:
uPort: podría ser el primer proyecto de identidad descentralizada lanzado en la red principal de Ethereum.
NKN: Ha logrado avances en el modelo de seguridad de cero confianza.
Mind Network: Como el primer proyecto FHE lanzado en la mainnet, ha establecido colaboraciones con varias instituciones reconocidas.
A pesar de que los proyectos de seguridad a menudo no son del agrado de los especuladores, son cruciales para el desarrollo a largo plazo de la tecnología de IA y blockchain. A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, los sistemas de defensa no convencionales se vuelven cada vez más importantes. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la futura era de la IA fuerte. En el camino hacia la AGI, FHE ha pasado de ser una opción a convertirse en una necesidad de supervivencia.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
14 me gusta
Recompensa
14
4
Compartir
Comentar
0/400
ser_we_are_ngmi
· hace20h
Esto realmente ngmi.
Ver originalesResponder0
WalletWhisperer
· hace20h
anomalía estadística detectada. los patrones de comportamiento sugieren una probabilidad del 73% de dominio de AGI
Ver originalesResponder0
AirdropFreedom
· hace20h
¿Otra vez va a subir la moneda?
Ver originalesResponder0
AirdropHunterZhang
· hace20h
Otro airdrop en preparación. Mañana empezaremos a interactuar con manus. ¡Es una buena oportunidad para hacer un poco de tarea antes!
Manus supera la prueba de GAIA, provocando controversias sobre la trayectoria de desarrollo de la IA y la seguridad.
Manus logra resultados revolucionarios en las pruebas de referencia de GAIA, generando controversia sobre la trayectoria del desarrollo de la IA
Manus ha demostrado un rendimiento excepcional en el Indicador de referencia GAIA, superando a modelos de lenguaje de gran tamaño de nivel similar. Este logro indica que Manus tiene la capacidad de completar tareas complejas de forma independiente, como manejar negociaciones comerciales internacionales, incluyendo el análisis de cláusulas contractuales, la formulación de estrategias y la generación de propuestas en múltiples etapas. Las ventajas de Manus se reflejan principalmente en tres aspectos: descomposición dinámica de objetivos, razonamiento multimodal y aprendizaje mejorado por memoria. Puede descomponer tareas complejas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar continuamente la eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
La aparición de Manus ha reavivado la discusión en la industria sobre la trayectoria del desarrollo de la IA: ¿el futuro se dirige hacia un modelo unificado de inteligencia artificial general (AGI) o hacia un dominio colaborativo de sistemas multiagente (MAS)?
Este problema implica la filosofía de diseño de Manus, sugiriendo dos posibles direcciones de desarrollo:
Ruta de AGI: A través de la mejora continua de las capacidades de un único sistema inteligente, acercándolo gradualmente al nivel de toma de decisiones integral de los humanos.
Ruta MAS: posicionar a Manus como el coordinador supremo, dirigiendo la colaboración de miles de agentes especializados en diferentes campos.
Superficialmente, se trata de una divergencia en la ruta tecnológica, pero en realidad refleja una contradicción fundamental en el desarrollo de la IA: ¿cómo equilibrar la eficiencia y la seguridad? A medida que un sistema de inteligencia única se acerca a la AGI, el riesgo de falta de transparencia en su proceso de toma de decisiones aumenta; mientras que la colaboración de múltiples agentes inteligentes puede dispersar el riesgo, pero puede perder momentos clave de decisión debido a la latencia en la comunicación.
El progreso de Manus amplifica sin querer los riesgos inherentes al desarrollo de la IA. Por ejemplo:
Problemas de privacidad de datos: en el ámbito médico, Manus podría necesitar acceder en tiempo real a los datos genómicos de los pacientes; en las negociaciones financieras, podría involucrar información financiera no divulgada de la empresa.
Sesgo algorítmico: Durante el proceso de contratación, Manus puede dar recomendaciones salariales injustas a ciertos grupos; al revisar contratos legales, puede haber una tasa de error de hasta el 50% en los términos de las industrias emergentes.
Vulnerabilidad de ataque adversarial: los hackers pueden implantar señales de audio específicas, lo que lleva a Manus a juzgar erróneamente el rango de ofertas de su oponente durante las negociaciones.
Estos problemas destacan una tendencia preocupante: cuanto más potentes son los sistemas inteligentes, mayor es su superficie de ataque potencial.
En el ámbito de Web3, la seguridad ha sido un tema de gran preocupación. La teoría del "triángulo imposible" propuesta por el fundador de Ethereum, Vitalik Buterin (las redes blockchain no pueden lograr simultáneamente seguridad, descentralización y escalabilidad) ha inspirado el desarrollo de diversas tecnologías criptográficas:
Modelo de seguridad de cero confianza: siguiendo el principio de "nunca confiar, siempre verificar", se lleva a cabo una rigurosa autenticación y autorización para cada solicitud de acceso.
Identidad descentralizada (DID): un estándar de identificación que no requiere una autoridad de registro centralizada, logrando una nueva forma de gestión de identidades digitales descentralizadas.
Encriptación totalmente homomórfica (FHE): permite realizar cálculos sobre datos en estado encriptado, adecuada para escenarios de computación en la nube y externalización de datos que requieren proteger los datos originales.
En estas tecnologías, la criptografía homomórfica completa se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede proporcionar protección en los siguientes niveles:
Capa de datos: toda la información ingresada por el usuario (incluidas las características biométricas, la voz, etc.) se procesa en estado cifrado, incluso Manus no puede descifrar los datos originales.
Capa de algoritmo: lograr "entrenamiento de modelos cifrados" a través de FHE, de modo que incluso los desarrolladores no puedan comprender directamente el proceso de decisión de la IA.
Nivel de colaboración: La comunicación entre múltiples agentes utiliza cifrado umbral, lo que significa que incluso si un nodo individual es comprometido, no se producirá una filtración de datos global.
Aunque la tecnología de seguridad de Web3 puede parecer lejana para el usuario promedio, está estrechamente relacionada con los intereses de todos. En este entorno lleno de desafíos, fortalecer constantemente las medidas de seguridad es clave para evitar convertirse en "韭菜".
Varios proyectos dignos de atención incluyen:
A pesar de que los proyectos de seguridad a menudo no son del agrado de los especuladores, son cruciales para el desarrollo a largo plazo de la tecnología de IA y blockchain. A medida que la tecnología de IA se acerca cada vez más al nivel de inteligencia humana, los sistemas de defensa no convencionales se vuelven cada vez más importantes. FHE no solo puede resolver los problemas de seguridad actuales, sino que también sienta las bases para la futura era de la IA fuerte. En el camino hacia la AGI, FHE ha pasado de ser una opción a convertirse en una necesidad de supervivencia.