El líder de Microsoft, Brad Smith, instó a que las personas que están detrás de la inteligencia artificial rindan cuentas de sus deficiencias y riesgos, y pidió a los legisladores garantizar la implementación de frenos de seguridad sobre la IA.

Principalmente, expresó su preocupación frente al control de esta tecnología sobre las redes eléctricas, el suministro de agua y otras infraestructuras esenciales, enfatizando que “debemos asegurarnos siempre de que la IA permanezca bajo control humano“.

Desde una entrada de blog, Smith recalcó que dentro de una sociedad democrática, uno de los principios fundacionales de Microsoft es que “ninguna persona está por encima de la ley; ningún gobierno está por encima de la ley; y ningún producto o tecnología debe estar por encima de la ley“.

Así, el líder tecnológico llegó a la conclusión de que “las personas que diseñan y operan sistemas de IA no pueden rendir cuentas a menos que sus decisiones y acciones estén sujetas al estado de derecho“.

Para abordar algunos problemas actuales y emergentes de IA, Microsoft ofrece un plan de cinco puntos dirigido a la generación de políticas públicas, leyes y regulaciones para esta tecnología.

Estas son “implementar y aprovechar los nuevos marcos de seguridad de IA liderados por el gobierno”; “exigir frenos de seguridad efectivos para los sistemas de IA que controlan la infraestructura crítica”; “desarrollar un amplio marco legal y regulatorio basado en la arquitectura tecnológica”; ” promover la transparencia y garantizar el acceso académico y sin fines de lucro a la IA”; y “buscar nuevas asociaciones público-privadas para utilizar la IA como una herramienta eficaz para abordar los inevitables desafíos sociales que surgen con la nueva tecnología”.

Por otro lado, el presidente de ejecutivo de OpenAI, que está detrás de ChatGPT, Sam Altman, dijo la semana pasada, ante una comisión del Senado de Estados Unidos, que el uso de la inteligencia artificial para interferir sobre la integridad de las elecciones es un “importante motivo de preocupación“, por lo que es necesario regularla cuanto antes.

El debate sobre la IA se ha avivado durante los últimos meses en el Capitolio, pues algunos legisladores consideran que esta tecnología puede poner en peligro la vida y sustento de las personas, al interferir sobre los avances médicos y financieros.

A otros les preocupa el poder de los modelos más básicos de chatbots con IA, como ChatGPT y GPT-4, que en lugar de actuar como copiloto en la vida de las personas y mejorar su productividad, termine por sustituirlos en las funciones que antes realizaban, o bien a que estas no sean utilizadas para discriminar o violar los derechos civiles.