O algoritmo é meu pastor, nada me faltará
Este artigo foi publicado no dia 21/01/2020 na minha coluna no R7 e inova360
Estamos entrando em uma espiral muito negativa onde empresas tem usado algoritmos para guiar seu rebanho. Você faz parte disso?
Até onde vai o limite da otimização?
Esta pergunta, de resposta aparentemente simples, tem rondado minha cabeça ultimamente muito mais do que eu gostaria. Para mim a resposta seria, no limite da humanização, da individualidade de cada ser humano ou até no impacto social gerado pela otimização.
Mas se é uma resposta simples, por que não consigo responder de forma definitiva e ela sempre volta?
Vamos tirar a minha reflexão do abstrato e trazer exemplos para que você possa entender melhor.
Estamos permitindo que os algoritmos ocupem um espaço que racionaliza o sentimento e padroniza a criatividade. Isso é abuso de quem faz e inocência de que aceita.
Recentemente, na busca incessante de resultados, o Spotify, por certo, empresa que eu admiro, comentou que está usando Machine Learning, ou seja, inteligência artificial para analisar os “skip the song” (pular para a próxima música). Esta informação é extremamente valiosa para eles, a ponto de informar os artistas o que seu público “gosta” ou “não gosta”, e isso condiciona a criação das próximas música.
Desta forma, o artista deixa de criar o que ele sente e passa a fazer, de maneira totalmente racional e deliberada, o que o cliente quer ouvir.
Para mim, o cúmulo deste processo é quando vejo, por exemplo, o MIT desenvolvendo um algoritmo que analisa várias características de uma música e determina qual a probabilidade de virar um hit.
Hoje decidi escrever este artigo em minha sala de som, ao lado da minha coleção de vinil e me pergunto.
O que diriam os algoritmos sobre Bohemian Rhapsody?
O que?
Uma canção que duplica o tempo médio do mercado atual, que começa como uma balada, vira ópera e depois vira rock e em alguns momentos hard rock, e para acabar, não tem refrão?
Nem pensar!!!
Há pouco mais de um ano apareceram uns pseudo gurus do marketing dizendo a importância do storytelling, mas o que diria os algoritmos quando Renato Russo escreveu Faroeste Caboclo?
Uma canção que tem mais de 9 minutos, conta uma história e um personagem que ninguém conhece e que fala palavrão?
Isso não tocará nas rádios, principal veículo de divulgação musical da época.
De novo, nem pensar!!!
E poderia citar centenas de exemplos, também no cinema, na literatura, na pintura e assim por diante.
Em minha opinião, os algoritmos podem ajudar a polir uma obra, ser utilizado na pós-produção, porém, me preocupa vê-los ditar o que eu vou consumir…
Pra começar, eu já comentei em outro artigo, me resisto a usar plataformas de streaming de música, porque não quero que me guiem e me levem a escutar o que outros decidiram por mim.
E as redes sociais e seus algoritmos? Te mostram o que você quer ver ou o que interessa a eles que você veja?
Desde o ponto de vista do cliente, é uma escolha ser guiado ou não.
Desde o ponto de vista da empresa, qual o limite ético das empresas em direcionar e induzir seus clientes a consumir um produto? Qual o limite para decidir o que devo e posso consumir e o que não?
Estes algoritmos, podem gerar um paradoxo que não temos a menor ideia de como pode acabar.
Se existem algoritmos que, baseados em meus hábitos de consumo e navegação, me oferecem o conteúdo mais aderente ao meu perfil, e outros que analisam meus hábitos para criar conteúdos e produtos a medida, isso me leva a um paradoxo.
No inicio me ofereciam algo que eu gostava, agora criam e entregam algo que imaginam ou sabem que eu vou gostar.
No final, eu consumo algo que não sei se é o que eu realmente quero ou o querem que eu queira…
Mais que um trava-línguas é um dilema que pode ser perverso.
E estes algoritmos estão cada vez mais invadindo o meu direito de escolha, se é que algum dia ele existiu.
Me vejo, vivendo dentro da maravilhosa canção admirável gado novo de Zé Ramalho.
Ê, ô, ô, vida de gado
Povo marcado, ê!
Povo feliz!
E quem não gostar do que a maioria gosta?
Para está as técnicas de neuromarketing, gatilhos mentais usados de forma pouco éticas, para “convencer” a você entrar na trilha.
O Facebook admitiu recentemente que monitora a localização dos usuários, mesmo quando a função está desativada, ou seja, contra a minha vontade. Os algoritmos de reconhecimento de voz, facial e de linguagem corporal, são capazes de analisar meu estado de humor.
Os algoritmos de análise grafológica podem analisar meus textos, minhas postagens e, cruzando com todo o anterior, utilizando computação quântica, que já está no mercado, podem traçar um perfil comportamental, inclusive antecipando-se a tendências e comportamentos futuros, antes de que eu mesmo saiba que os terei.
Isso é bom ou ruim?
Se for usado para evitar comportamentos suicidas, genocídios, dependências, e outros comportamentos nocivos à sociedade, é ótimo.
Agora, se servir somente para tentar me empurrar goela abaixo o último hit da Pablo Vitar… me desculpem, mas ao menos para mim, é péssimo.
Mas onde está a novidade?
A manipulação de massas sempre existiu, através da oratória, da arte, dos meios de comunicação, etc.
Porém, a diferença é que antes, a origem das mensagens vinha de uma mente, normalmente com inteligência acima da media, que surgia de tempos em tempos, que tinha um poder de comunicação limitado pela geografia e recursos financeiros.
Hoje, com tecnologia, a origem pode ser um algoritmo, com uma capacidade absurdamente elevada e um poder de propagação global a custo zero. E se for feito de forma estruturada e com recursos, pode se converter em uma arma perigosíssima.
Então, onde está o limite?
Quem deve impor este limite?
Sinceramente acho pouco provável que a legislação seja capaz de controlar isso. A lei deve evitar, controlar e punir as exceções, a regra deve ser regulada pela conscientização.
Onde as empresas, leia-se executivos, sejam conscientes de que suas decisões e ações corporativas transcendem os resultados do final do trimestre e impactam as pessoas. Que não vale tudo para alcançar os resultados.
É uma utopia?
Seria se a criatura não afetasse ao criador, mas, neste caso, nem mesmos os criadores destes algoritmos estão livres de seus efeitos. Só precisam entender que eles e seus familiares fazem parte do mesmo coletivo que manipulam.
Otimizar processos e algoritmos para vender mais não é ruim em si mesmo.
Mas termino com a mesma dúvida do início.
Onde está o limite da otimização?
Imagem: Pixabay