Um incidente recente levantou preocupações sobre a segurança de dispositivos operados por voz. Esta semana, um casal casado em Portland, Oregon, disse que seu dispositivo de inteligência artificial (AI) de inteligência artificial (AI) Alexa, da Amazon.com Inc. (AMZN), gravou secretamente uma conversa privada e a enviou para um contato aleatório. (Veja também: Por que a Amazon está gastando US $ 1 bilhão em uma empresa de campainha. )
Ao receber a gravação de uma conversa do assistente do robô residente, um conhecido do casal ligou imediatamente, aconselhando-os a “desconectar seus dispositivos Alexa agora. Você está sendo hackeado”, relatou Bloomberg. A Amazon confirmou uma reportagem de uma estação de televisão local KIRO 7 em Seattle na quinta-feira, e disse que o dispositivo Echo interpretou mal partes da conversa como comandos, fazendo com que “acordasse” e pensasse que estava sendo instruído a enviar uma mensagem. “Por mais improvável que seja essa sequência de eventos, estamos avaliando opções para tornar esse caso ainda menos provável”, disse um porta-voz da Amazon.
Os dispositivos com tecnologia Alexa da Amazon, incluindo seu dispositivo doméstico inteligente Echo, viram as vendas disparar, graças à crescente demanda por alto-falantes inteligentes. Essa rápida adoção de dispositivos movidos a IA resultou em um ambiente cada vez mais competitivo, onde a Amazon compete contra outros titãs da tecnologia, como a Alphabet Inc. (GOOGL) com seu Google Home e Apple Inc. (AAPL) com o HomePod. Conforme a Internet das Coisas (IoT) decola, conectando bilhões de dispositivos uns aos outros e à nuvem, muitos veem esses dispositivos automatizando uma ampla gama de tarefas pessoais, assumindo várias funções, como chamadas, mensagens e pequenos pagamentos pelo gás, sabão em pó e outros suprimentos que ele precisa estocar.
Microfones conectados à Internet ainda não são seguros
Enquanto a demanda por tais dispositivos aumenta, o recente incidente lança luz sobre as preocupações em relação à combinação de microfones conectados à Internet e automação alimentada por IA, seja intencionalmente ou por meio de mal-entendidos semelhantes.
A Amazon sugeriu que está adicionando uma correção para dispositivos com Alexa após um relatório de que o dispositivo começou a rir sem motivo, devido ao software ter entendido mal o que ouviu.
Gene Munster, sócio-gerente da empresa de capital de risco com foco em tecnologia Loup Ventures, indicou que “o lado da privacidade não foi totalmente desenvolvido com assistentes digitais”, conforme citado pelo The Wall Street Journal. Embora, “eventualmente, vamos resolver isso”, ele disse que a tecnologia precisa de mais treinamento para interpretar comandos e linguagem de forma mais perfeita, antes que possa ser totalmente confiável para os consumidores. (Veja também: Startup de $ 100M para assumir Alexa, Google Assistant. )