Os óculos inteligentes Ray-Ban da Meta estão no centro de mais uma polêmica. Uma empresa queniana de formação em IA chamada Sama, que a Meta utilizou para ajudar a treinar a sua IA, viu o seu contrato ser rescindido abruptamente pouco depois de os seus trabalhadores apresentarem alegações profundamente preocupantes (through BBC).
Os trabalhadores afirmam que foram repetidamente expostos a conteúdos gráficos capturados pelos óculos da Meta e agora mais de mil deles perderam o emprego.
As imagens perturbadoras por trás do treinamento de IA da Meta
Os funcionários da Sama eram anotadores de dados, uma função que envolve rotular manualmente o conteúdo do vídeo para ensinar a IA da Meta como interpretar imagens. Eles também revisaram transcrições de conversas Meta AI para garantir que o chatbot estava dando respostas precisas.
O que eles não fizeram, supostamente, foi revisar imagens de pessoas fazendo sexo ou usando o banheiro, todas filmadas através dos óculos do Meta sem o conhecimento dos usuários. Em um relato, os óculos de um homem foram deixados gravando em um quarto, capturando sua esposa se despindo.
Os óculos da Meta têm uma pequena luz indicadora que acende quando a câmera está ativa, embora isso claramente não tenha evitado o uso indevido. A empresa admitiu que os trabalhadores contratados podem ocasionalmente revisar o conteúdo compartilhado com Meta AI, enquadrando-o como uma prática padrão para melhorar a experiência do usuário.
Por que Meta retirou o contrato?
Menos de dois meses após o surgimento dessas contas, a Meta rescindiu seu acordo com a Sama, deixando 1.108 trabalhadores sem emprego. Sama diz que atendeu a todos os padrões exigidos pelo Meta e nunca foi informado do contrário. No entanto, Meta discorda, dizendo que Sama ficou aquém das suas expectativas.
Uma organização de trabalhadores quenianos acredita que o verdadeiro motivo foi silenciar os funcionários que divulgaram publicamente que humanos revisavam imagens de óculos inteligentes.
O Gabinete do Comissário de Informação do Reino Unido classificou a situação como “preocupante” numa carta à Meta. Além disso, a autoridade de protecção de dados do Quénia abriu uma investigação formal.
Este não é o primeiro encontro difícil de Sama com Meta. Um contrato anterior de moderação de conteúdo do Fb terminou em controvérsia semelhante, com ex-funcionários descrevendo a exposição a conteúdo traumático.
Sama disse mais tarde que gostaria de nunca ter feito esse trabalho. Com os reguladores a round e um processo judicial em curso, a pressão sobre a Meta para explicar a sua decisão só aumenta.
Os óculos inteligentes da Meta têm um problema de privacidade muito maior
Os óculos inteligentes da Meta estão cada vez mais controversos, já que relatórios sugerem que em breve poderão identificar pessoas em tempo actual. Isso intensificou as preocupações com a privacidade e os direitos civis em torno do reconhecimento facial nos espaços públicos diários.
Grupos de direitos civis estão a rejeitar a ideia, citando que a identificação permanente poderia acontecer sem consentimento claro.
Aplicativos como o Godsend estão surgindo em resposta a essa ameaça, alertando as pessoas quando óculos inteligentes próximos podem estar gravando-os secretamente. Isso mostra como as pessoas ficam inquietas por serem filmadas sem saber.
A tecnologia também está aparecendo de maneiras menos lisonjeiras, incluindo relatos de estudantes que usam óculos inteligentes para colar nas provas. Isso adicionou uma nova camada ao debate em torno do uso indevido.
Dito isto, nem tudo é ruim. Os óculos também encontraram usos genuinamente bons, principalmente para ajudar pessoas com deficiência visible a navegar em espaços com a ajuda de estranhos.