En los últimos meses, pocas cosas han captado más la atención del público que los avances significativos que hemos visto en el campo de la inteligencia artificial y, en particular, la IA generativa. Estos son productos y servicios que permiten a las personas crear contenido de texto, audio y visual con indicaciones simples. La explosión de interés en estas poderosas nuevas tecnologías ha generado tanto un gran entusiasmo por las posibilidades que ofrecen como una seria preocupación por los riesgos.
Es imposible para la mayoría de las personas saber qué pensar cuando se enfrentan a nuevas tecnologías que inspiran un optimismo y un pesimismo tan hiperbólicos. La única solución es la apertura por parte de quienes desarrollan estas tecnologías. Esto significa que las empresas de tecnología deben ser más transparentes sobre las tecnologías que crean, deben trabajar en colaboración con otras industrias, el gobierno, la sociedad civil y la academia para desarrollarlas de manera responsable, y deben encontrar formas de involucrar a las personas. en el proceso a medida que diseñan las barreras dentro de las cuales operan los sistemas de IA.
Un enfoque abierto no solo significa que la sociedad tendrá una mejor comprensión de lo que estas tecnologías pueden y no pueden hacer, sino que también empodera a las personas para ayudar a dar forma a su desarrollo y garantizar que se formen diversas perspectivas y experiencias. en las decisiones que toman las empresas a medida que se crean.
Creemos que es importante que las decisiones sobre nuestros productos y las políticas relacionadas con la IA generativa las tomen personas y expertos de todo el mundo. Hemos hablado con docenas de científicos, investigadores y líderes comunitarios sobre cómo pensar en el contenido generativo de IA, y también estamos trabajando activamente con AI Partnership, a la que nos unimos en 2016 como miembro fundador, para ayudar a garantizar que nosotros y otros tienen los límites éticos correctos para crear estos productos.
Para involucrar a más personas en este proceso, necesitamos innovar con nuevos enfoques de gestión y toma de decisiones. Es por eso que anunciamos el lanzamiento de un foro comunitario dedicado a recopilar comentarios sobre las pautas que la gente quiere ver en las nuevas tecnologías de IA. Nuestro Foro de la Comunidad de IA Generativa se llevará a cabo en consulta con el Laboratorio de Democracia Deliberativa de Stanford y el Equipo de Perspectivas de Comportamiento (BIT). Ambas organizaciones fueron socias en el lanzamiento de los proyectos piloto del Foro Comunitario el año pasado.
¿Qué son los foros comunitarios?
Los foros de la comunidad reúnen a las personas para discutir preguntas difíciles, considerar decisiones difíciles y compartir recomendaciones para mejorar la forma en que las personas interactúan con nuestras aplicaciones. El modelo se basa en encuestas deliberativas, un enfoque utilizado por gobiernos de todo el mundo, en el que los grupos representativos tienen la oportunidad de aprender sobre temas difíciles antes de dar su opinión. Esto es bastante diferente de las encuestas de usuarios más típicas, donde se pregunta a las personas sobre sus experiencias, pero no necesariamente están familiarizadas con el tema.
Los participantes tienen acceso a extensos materiales de aprendizaje, varias discusiones en grupos pequeños y la oportunidad de hacer preguntas a destacados expertos independientes sobre los conceptos que se discuten. Esto les ayuda a profundizar en temas complejos como la IA generativa, lo que lleva a resultados más equilibrados, detallados y ricos. Y ayuda a Meta a tener en cuenta la amplia gama de diferentes perspectivas de nuestros usuarios al construir nuestros sistemas y productos.
Creemos que la IA generativa es adecuada para este método de toma de decisiones. Los modelos de IA se guían por los datos a los que tienen acceso y las estructuras y entradas que creamos al construir su infraestructura. Meta y compañías como la nuestra están introduciendo «valores» que definen un modelo de IA y pueden ayudar a protegerse contra sesgos y consecuencias no deseadas al permitirle evaluar sus propios resultados. Creemos que es importante que estos valores reflejen las diversas perspectivas de toda la comunidad, y el Foro de la comunidad se basará en los comentarios que hemos recibido de los expertos a través de nuestros procesos de desarrollo de políticas.
Meta no inventó los mecanismos de la democracia deliberativa. Han sido utilizados durante décadas por gobiernos y organizaciones de todo el mundo para abordar con éxito problemas complejos, desde enmiendas constitucionales en Irlanda hasta desastres ambientales y presiones demográficas en Uganda hasta cambios electorales en partes de Canadá.
A medida que Meta refina las mejores formas de diseñar sistemas generativos de IA, este foro de la comunidad nos dará una idea de cómo les gustaría a las personas que se comporten los modelos en temas matizados y, por lo tanto, informará sobre futuros productos y consideraciones de políticas. Los participantes explorarán los principios que una amplia gama de usuarios de todo el mundo creen que deben cumplir los sistemas de inteligencia artificial generativa. Estos principios podrían entonces ayudar a informar nuestros sistemas. Esperamos que el foro no solo ayude a informar nuestra propia infraestructura de modelado, sino que también proporcione información reflexiva y detallada para la industria en general.
Hoy, Stanford también publica salida de nuestro foro de la comunidad Metaverseque tuvo lugar en diciembre. Este foro no solo nos brindó información valiosa, sino que también demostró la disposición de las personas para tratar temas sutiles y complejos y confirmó que esta metodología puede tener éxito en todo el mundo.
Un enfoque abierto al desarrollo de nuevas tecnologías.
Los Foros Comunitarios son parte de un concepto más amplio de transparencia, rendición de cuentas y colaboración. Publicaremos los resultados para que otras empresas tecnológicas, científicos y el público puedan beneficiarse de las ideas democráticas recibidas de los participantes. En términos generales, creemos que a medida que se desarrollan nuevas tecnologías poderosas, como la IA generativa, las empresas deben ser más abiertas sobre cómo funcionan sus sistemas. Por ejemplo, somos uno de los fundadores Asociación de IA, y anunció la semana pasada que estamos participando en su Marco para la Acción Colectiva sobre Medios Sintéticos, un paso importante para garantizar restricciones responsables en el contenido generado por IA. Y por eso somos pioneros en nuevos modelos de gestión innovadores. Además de los foros comunitarios, hemos creado Consejo de Supervisión en 2022, un organismo independiente dirigido por expertos que actúa como un sistema de controles y equilibrios en las decisiones de contenido de Meta.
También creemos que un enfoque abierto de la investigación y la innovación, especialmente cuando se trata de tecnologías revolucionarias de IA, es mejor que dejar el conocimiento en manos de un pequeño número de grandes empresas tecnológicas. Es por eso que durante la última década, lanzamos más de 1000 modelos, bibliotecas y conjuntos de datos de IA a los investigadores para que puedan capitalizar nuestra potencia informática y realizar investigaciones de forma abierta y segura. La apertura también es fundamental para garantizar que los desarrolladores, emprendedores y nuevas empresas puedan utilizar los modelos subyacentes creados por grandes empresas para crear nuevas herramientas y hacer que la IA sea más segura a través de la innovación continua y abierta.
