O problema não é a inteligência artificial, o problema é o banco de dados que ela acumula sobre vc, para se tornar mais inteligente. Quem é o detentor desses dados? Como são utilizados?
Vc imagina uma pessoa que usa a Alexa (só pra exemplificar), a Apple armazena em banco absolutamente TUDO sobre a pessoa, localização, preferência, estilo de vida, tudo. Agora pensa em todos os usuários da Apple, com o estilo de vida, preferências, localização, rotinas diárias, dados sobre filhos, agendas, tendências políticas ... É uma quantidade imensurável de dados que, se tratados estatisticamente, podem se transformar em informações valiosíssima para manipulação de uma parcela da sociedade. Dei o exemplo da Apple que tem os serviço todos interligados, mas pensa no Google. São informações valiosas que podem ser usadas para desde o oferecimento de produtos (que eles já fazem) à manipulação política. O problema em si não é só na IA, é a proteção de dados da população.