Manus logra resultados innovadores en el indicador de referencia GAIA, lo que genera un debate sobre la trayectoria del desarrollo de la IA
Recientemente, Manus ha logrado resultados revolucionarios en la prueba de rendimiento de GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño en el mismo nivel. Este logro indica que Manus tiene la capacidad de llevar a cabo tareas complejas de forma independiente, como negociaciones comerciales internacionales, incluyendo la descomposición de cláusulas contractuales, la previsión de estrategias, la generación de propuestas, e incluso puede coordinar equipos legales y financieros.
Las ventajas de Manus se manifiestan principalmente en tres aspectos: la capacidad de descomposición dinámica de objetivos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar constantemente su eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Este avance ha vuelto a generar discusiones en la industria sobre la trayectoria de evolución de la IA: ¿el futuro se dirige hacia una inteligencia artificial general (AGI) que lo unifique todo, o hacia un sistema multiagente (MAS) que lidere de manera colaborativa?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercarse a la capacidad de toma de decisiones integral de los seres humanos.
Ruta MAS: como supercoordinador, dirige a miles de agentes en verticales para trabajar en colaboración.
Superficialmente, se trata de un debate sobre diferentes trayectorias de desarrollo, pero en realidad refleja una contradicción central en el desarrollo de la IA: cómo equilibrar la eficiencia y la seguridad. A medida que la inteligencia individual se acerca a la AGI, el riesgo de falta de transparencia en sus decisiones es mayor; mientras que la colaboración de múltiples inteligencias puede dispersar el riesgo, puede perder oportunidades cruciales de decisión debido a la latencia en la comunicación.
El progreso de Manus amplifica de manera inconsciente los riesgos inherentes al desarrollo de la IA, que incluyen:
Problemas de privacidad de datos: en el ámbito médico, se requiere acceder a datos sensibles de los pacientes en tiempo real; en las negociaciones financieras, puede involucrar información financiera no divulgada de la empresa.
Sesgo algorítmico: en las negociaciones de contratación, puede ofrecer recomendaciones salariales injustas para ciertos grupos; en la revisión de contratos legales, la tasa de error en las cláusulas de industrias emergentes es alta.
Vulnerabilidad de ataque de adversario: los hackers pueden implantar frecuencias de voz específicas, lo que lleva al sistema a malinterpretar el rango de ofertas del oponente durante las negociaciones.
Estos problemas destacan una dura realidad: cuanto más inteligentes son los sistemas, más amplia es su superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. Alrededor de este tema, han surgido diversas soluciones tecnológicas de criptografía:
Modelo de seguridad de confianza cero: enfatiza la autenticación y autorización estrictas de cada solicitud de acceso.
Identidad descentralizada (DID): lograr la identificación sin un registro centralizado.
Criptografía homomórfica completa (FHE): permite realizar cálculos en datos cifrados sin necesidad de descifrarlos.
Entre ellos, la criptografía totalmente homomórfica se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede ofrecer protección en los siguientes niveles:
Nivel de datos: toda la información ingresada por el usuario se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de algoritmo: implementar "entrenamiento de modelos cifrados" a través de FHE, asegurando que incluso los desarrolladores no puedan espiar el camino de decisión de la IA.
En el nivel de colaboración: la comunicación entre múltiples agentes utiliza cifrado umbral para evitar que la filtración de un solo punto exponga datos globales.
A pesar de que la tecnología de seguridad Web3 puede no tener una conexión directa con los usuarios comunes, es crucial para proteger los intereses de los usuarios. En este campo lleno de incertidumbres, fortalecer la protección de seguridad es un medio necesario para evitar convertirse en "韭菜".
Históricamente, varios proyectos han explorado el campo de la seguridad en Web3:
uPort se lanzó en la red principal de Ethereum en 2017, siendo uno de los primeros proyectos de identidad descentralizada.
NKN lanzó su mainnet en 2019 basada en un modelo de seguridad de cero confianza.
Una red es el primer proyecto FHE que se lanza en la mainnet y ha llegado a acuerdos de colaboración con varias instituciones reconocidas.
A medida que la tecnología de IA se acerca cada vez más al nivel de la inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. Tecnologías de seguridad como FHE no solo pueden resolver problemas actuales, sino que también sientan las bases para la futura era de la IA fuerte. En el camino hacia la AGI, estas tecnologías de seguridad ya no son opcionales, sino una necesidad para la supervivencia.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
7
Republicar
Compartir
Comentar
0/400
CryptoCross-TalkClub
· 08-09 17:36
El último proyecto de IA que recoge tontos tiene que ser creado por humanos.
Ver originalesResponder0
GasFeePhobia
· 08-09 17:35
Otra vez, si no haces shorting de la IA, morirás pronto.
Ver originalesResponder0
WagmiOrRekt
· 08-09 17:26
No parece que sea muy diferente de chatgpt.
Ver originalesResponder0
Ser_This_Is_A_Casino
· 08-09 17:25
Te has pasado, hermano.
Ver originalesResponder0
MemeKingNFT
· 08-09 17:20
la IA también ha roto la gran defensa, pertenece a esto.
Ver originalesResponder0
GweiTooHigh
· 08-09 17:16
Código que entiende un poco de moneda, no es responsable del proyecto, no actúa como asesor financiero, no ha añadido moneda.
Manus lidera una nueva era de IA, la encriptación completamente homomórfica se convierte en la clave de seguridad de Web3
Manus logra resultados innovadores en el indicador de referencia GAIA, lo que genera un debate sobre la trayectoria del desarrollo de la IA
Recientemente, Manus ha logrado resultados revolucionarios en la prueba de rendimiento de GAIA, superando el rendimiento de modelos de lenguaje de gran tamaño en el mismo nivel. Este logro indica que Manus tiene la capacidad de llevar a cabo tareas complejas de forma independiente, como negociaciones comerciales internacionales, incluyendo la descomposición de cláusulas contractuales, la previsión de estrategias, la generación de propuestas, e incluso puede coordinar equipos legales y financieros.
Las ventajas de Manus se manifiestan principalmente en tres aspectos: la capacidad de descomposición dinámica de objetivos, la capacidad de razonamiento multimodal y la capacidad de aprendizaje mejorado por memoria. Puede descomponer grandes tareas en cientos de subtareas ejecutables, manejar múltiples tipos de datos y mejorar constantemente su eficiencia de toma de decisiones y reducir la tasa de errores a través del aprendizaje por refuerzo.
Este avance ha vuelto a generar discusiones en la industria sobre la trayectoria de evolución de la IA: ¿el futuro se dirige hacia una inteligencia artificial general (AGI) que lo unifique todo, o hacia un sistema multiagente (MAS) que lidere de manera colaborativa?
La filosofía de diseño de Manus implica dos posibilidades:
Ruta AGI: A través de la mejora continua del nivel de inteligencia individual, acercarse a la capacidad de toma de decisiones integral de los seres humanos.
Ruta MAS: como supercoordinador, dirige a miles de agentes en verticales para trabajar en colaboración.
Superficialmente, se trata de un debate sobre diferentes trayectorias de desarrollo, pero en realidad refleja una contradicción central en el desarrollo de la IA: cómo equilibrar la eficiencia y la seguridad. A medida que la inteligencia individual se acerca a la AGI, el riesgo de falta de transparencia en sus decisiones es mayor; mientras que la colaboración de múltiples inteligencias puede dispersar el riesgo, puede perder oportunidades cruciales de decisión debido a la latencia en la comunicación.
El progreso de Manus amplifica de manera inconsciente los riesgos inherentes al desarrollo de la IA, que incluyen:
Problemas de privacidad de datos: en el ámbito médico, se requiere acceder a datos sensibles de los pacientes en tiempo real; en las negociaciones financieras, puede involucrar información financiera no divulgada de la empresa.
Sesgo algorítmico: en las negociaciones de contratación, puede ofrecer recomendaciones salariales injustas para ciertos grupos; en la revisión de contratos legales, la tasa de error en las cláusulas de industrias emergentes es alta.
Vulnerabilidad de ataque de adversario: los hackers pueden implantar frecuencias de voz específicas, lo que lleva al sistema a malinterpretar el rango de ofertas del oponente durante las negociaciones.
Estos problemas destacan una dura realidad: cuanto más inteligentes son los sistemas, más amplia es su superficie de ataque.
En el ámbito de Web3, la seguridad ha sido un tema de gran atención. Alrededor de este tema, han surgido diversas soluciones tecnológicas de criptografía:
Modelo de seguridad de confianza cero: enfatiza la autenticación y autorización estrictas de cada solicitud de acceso.
Identidad descentralizada (DID): lograr la identificación sin un registro centralizado.
Criptografía homomórfica completa (FHE): permite realizar cálculos en datos cifrados sin necesidad de descifrarlos.
Entre ellos, la criptografía totalmente homomórfica se considera una tecnología clave para resolver los problemas de seguridad en la era de la IA. Puede ofrecer protección en los siguientes niveles:
Nivel de datos: toda la información ingresada por el usuario se procesa en estado cifrado, incluso el propio sistema de IA no puede descifrar los datos originales.
A nivel de algoritmo: implementar "entrenamiento de modelos cifrados" a través de FHE, asegurando que incluso los desarrolladores no puedan espiar el camino de decisión de la IA.
En el nivel de colaboración: la comunicación entre múltiples agentes utiliza cifrado umbral para evitar que la filtración de un solo punto exponga datos globales.
A pesar de que la tecnología de seguridad Web3 puede no tener una conexión directa con los usuarios comunes, es crucial para proteger los intereses de los usuarios. En este campo lleno de incertidumbres, fortalecer la protección de seguridad es un medio necesario para evitar convertirse en "韭菜".
Históricamente, varios proyectos han explorado el campo de la seguridad en Web3:
A medida que la tecnología de IA se acerca cada vez más al nivel de la inteligencia humana, los sistemas de defensa no tradicionales se vuelven cada vez más importantes. Tecnologías de seguridad como FHE no solo pueden resolver problemas actuales, sino que también sientan las bases para la futura era de la IA fuerte. En el camino hacia la AGI, estas tecnologías de seguridad ya no son opcionales, sino una necesidad para la supervivencia.
Comentarios generados según lo solicitado:
¿Esta IA cuándo se sube a la cadena?