Nuevas medidas de seguridad para la IA anunciadas por Amazon, Meta, Microsoft y otras empresas líderes

Ago 9, 2023 | 0 Comentarios

Grupo Isarco - Inicio 5 Noticias del sector 5 Nuevas medidas de seguridad para la IA anunciadas por Amazon, Meta, Microsoft y otras empresas líderes
  • Amazon, Meta, Microsoft y otras firmas líderes en inteligencia artificial han anunciado el viernes 21 de julio una serie de nuevas medidas de seguridad destinadas a minimizar el abuso y el sesgo dentro de la tecnología emergente. En un evento realizado en la Casa Blanca, el presidente Joe Biden estuvo acompañado por ejecutivos de estas compañías, comprometidas con la transparencia y la seguridad en el desarrollo y uso de la inteligencia artificial.

  • Según el acuerdo, las empresas someterán los nuevos sistemas de inteligencia artificial a pruebas internas y externas antes de su lanzamiento, asegurando así una evaluación rigurosa. Además, se pedirá a equipos externos que investiguen los sistemas en busca de posibles fallas de seguridad o tendencias discriminatorias, garantizando una revisión independiente y objetiva.

  • Estas empresas líderes en inteligencia artificial, entre ellas Anthropic e Inflection AI, también asumen el compromiso de compartir información para mejorar la mitigación de riesgos con los Gobiernos, la sociedad civil y los académicos. Además, informarán sobre las vulnerabilidades que surjan durante el proceso de desarrollo y uso de la inteligencia artificial. Para facilitar la autenticidad del contenido generado, las compañías incorporarán marcas de agua virtuales en las imágenes y videos creados por sus sistemas, permitiendo una mejor distinción entre contenido real y generado por computadoras.

  • Este paquete de medidas representa un importante avance en la promoción de un desarrollo responsable de la inteligencia artificial. Los compromisos voluntarios buscan equilibrar el potencial de la tecnología con la necesidad de garantizar la seguridad y protección de los usuarios. Aunque estas medidas son voluntarias, se espera que marquen un precedente para el sector y sirvan como modelo para otros Gobiernos y empresas.

  • Los asesores de la Casa Blanca destacan la importancia de seguir avanzando en la regulación de la inteligencia artificial y la necesidad de contar con legislación que establezca reglas más estrictas y asignación de recursos para supervisar y contratar expertos y reguladores. La preocupación por la inteligencia artificial es una de las principales prioridades del presidente Biden, quien ha instado a los miembros del Gabinete a priorizar la investigación sobre cómo la tecnología puede interactuar con sus respectivas agencias y prioridades sociales, como la medicina y el cambio climático.

Fuente: https://www.larepublica.co/globoeconomia/amazon-meta-microsoft-y-otras-firmas-presentan-medidas-de-seguridad-para-la-ia-3662951