Google recibió fuertes críticas tras conocerse su colaboración con el Departamento de Defensa de los Estados Unidos en el proyecto Maven, una iniciativa para mejorar la precisión de los ataques militares con drones.
Las reprimendas no vinieron únicamente del exterior de la tecnológica, sino los propios empleados de la compañía mostraron su total rechazo y repudio por participar en “el negocio de la guerra”.
Más de tres mil empleados firmaron y entregaron una carta al CEO de Google, Sundar Pichai, en la cual reclamaban la cancelación del Proyecto Maven y la publicación e implementación de una «política clara que establezca que ni Google ni sus contratistas construirán jamás tecnología de uso bélico».
Entre las razones expuestas, los firmantes argumentaron que la colaboración con el Pentágono podría dañar de forma irreversible la marca al ignrorar su responsabilidad moral y ética.
La presión resultó tan fuerte, que la compañía decidió no renovar el contrato con el Departamento de Defensa de los Estados Unidos después de que éste expire en marzo de 2019.
Días después, Sundar Pichai, el CEO de Google, publicó una especie de lineamientos, mandamientos u órdenes éticos, los cuales regirán a la compañía en los proyectos y desarrollos relativos a la Inteligencia Artificial.
En el comunicado, el director de Google enfatizó que los productos que han desarrollado mediante el uso de Inteligencia Artificial buscan contribuir a la sociedad ayudándola a resolver problemas urgentes. Pero, reconoce, una tecnología tan poderosa como la IA conlleva interrogantes de suma importancia:
“El cómo se desarrolle y se utilice la IA tendrá un impacto significativo en nuestra sociedad en los próximos años. Como líderes en IA. sentimos una profunda repsonsabilidad de tenerlo muy claor. Por este motivo, anunciamos siete principios que regirán y guiarán nuestro trabajo. Los siguientes no son conceptos teóricos; son estándares concretos que gobernarán nuestra investigación y desarrollo de productos e impactarán nuestras decisiones de negocio.”
Los principios son los siguientes.
1.- Ser socialmente benéfica: “Los avances en la Inteligencia Artificial tendrán un impacto transformador en diversos campos como la salud, la seguridad, la energía, el transporte, la manufactura y el entretenimiento. Al momento de desarrollar usos de la Inteligencia Artificial, tendremos en cuenta un amplio espectro de factores económicos y sociales y procederemos a aplicarlos donde los beneficios potenciales superen ostensiblmente los riesgos y desventajas previsibles.”
2- .Evitar crear o reforzar prejuicios injustos: De acuerdo con Google, los algoritmos de la IA pueden reflejar, reforzar o reducir prejuicios injustos. Por ello, buscarán evitar impactar injustamente en la vida de las personas, particularmente en características sensibles como la raza, etnia, género, nacionalidad, orientación sexual, inclinación política o creencia religiosa.
3.- Construida y probada para ser segura: La empresa seguirá comprometiéndose a desarrollar y aplicar fuertes medidas de seguridad para prevenir y evitar cualquier resultado no deseado que pueda poner en peligro a las personas.
4.- Ser responsable ante las personas: «Diseñaremos sistemas de Inteligencia Artificial que proveerán oportunidades apropiadas para la retroalimentación y la apelación. Todas nuestras tecnologías de IA estarán sujetas a un apropiado control y dirección humano .”
5.- Incorporar principios de diseño de privacidad: La tecnológica se compromete a a incorporar principios de privacidad en el desarrollo y uso de sus tecnología de IA.
6.- Mantener altos estándares en excelencia científica: Google trabajará para promover el liderazgo reflexivo en esta área, recurriendo a enfoques científicamente rigurosos y multidisciplinarios. Compartirá de forma responsable el conocimiento de AI mediante la publicación de materiales educativos, mejores prácticas e investigaciones que permitan a más personas desarrollar aplicaciones de IA útiles.
7.- Estar disponible para usos que estén de acuerdo con estos principios: En la carta, Sundai Pichar afirma que Google trabajará para limitar potenciales daños o aplicaciones abusivas de las tecnologías relacionadas con la IA.
En adición a los principios anteriormente descritos, Google expuso en su carta que no participará en el diseño o implementación de IA en las siguientes áreas.
- Tecnologías que causan o pueden causar un daño general, a menos que los beneficios superen sustancialmente los riesgos e incorporen las restricciones de seguridad apropiadas.
- Armas u otras tecnologías cuyo principal propósito sea causar lesiones a personas.
- Tecnologías que recopilan o usan información para la vigilancia que viola las normas internacionalmente aceptadas.
- Tecnologías cuyo propósito infringe los principios ampliamente aceptados del derecho internacional y los derechos humanos.
Aun así, Google declaró que seguirá colaborando con el Gobierno Estadounidense y el Ejército en otras áreas