Estamos entrando em uma espiral muito negativa onde empresas tem usado algoritmos para guiar seu rebanho. Você faz parte disso?

Até onde vai o limite da otimização?

Esta pergunta, de resposta aparentemente simples, tem rondado minha cabeça ultimamente muito mais do que eu gostaria. Para mim a resposta seria, no limite da humanização, da individualidade de cada ser humano ou até no impacto social gerado pela otimização.

Mas se é uma resposta simples, por que não consigo responder de forma definitiva e ela sempre volta?

Vamos tirar a minha reflexão do abstrato e trazer exemplos para que você possa entender melhor.

Estamos permitindo que os algoritmos ocupem um espaço que racionaliza o sentimento e padroniza a criatividade. Isso é abuso de quem faz e inocência de que aceita.

Recentemente, na busca incessante de resultados, o Spotify, por certo, empresa que eu admiro, comentou que está usando Machine Learning, ou seja, inteligência artificial para analisar os “skip the song” (pular para a próxima música). Esta informação é extremamente valiosa para eles, a ponto de informar os artistas o que seu público “gosta” ou “não gosta”, e isso condiciona a criação das próximas música.

Desta forma, o artista deixa de criar o que ele sente e passa a fazer, de maneira totalmente racional e deliberada, o que o cliente quer ouvir.

Para mim, o cúmulo deste processo é quando vejo, por exemplo, o MIT desenvolvendo um algoritmo que analisa várias características de uma música e determina qual a probabilidade de virar um hit.

Hoje decidi escrever este artigo em minha sala de som, ao lado da minha coleção de vinil e me pergunto.

O que diriam os algoritmos sobre Bohemian Rhapsody?

O que?

Uma canção que duplica o tempo médio do mercado atual, que começa como uma balada, vira ópera e depois vira rock e em alguns momentos hard rock, e para acabar, não tem refrão?

Nem pensar!!!

Há pouco mais de um ano apareceram uns pseudo gurus do marketing dizendo a importância do storytelling, mas o que diria os algoritmos quando Renato Russo escreveu Faroeste Caboclo?

Uma canção que tem mais de 9 minutos, conta uma história e um personagem que ninguém conhece e que fala palavrão?

Isso não tocará nas rádios, principal veículo de divulgação musical da época.

De novo, nem pensar!!!

E poderia citar centenas de exemplos, também no cinema, na literatura, na pintura e assim por diante.

Em minha opinião, os algoritmos podem ajudar a polir uma obra, ser utilizado na pós-produção, porém, me preocupa vê-los ditar o que eu vou consumir…

Pra começar, eu já comentei em outro artigo, me resisto a usar plataformas de streaming de música, porque não quero que me guiem e me levem a escutar o que outros decidiram por mim.

E as redes sociais e seus algoritmos? Te mostram o que você quer ver ou o que interessa a eles que você veja?

Desde o ponto de vista do cliente, é uma escolha ser guiado ou não.

Desde o ponto de vista da empresa, qual o limite ético das empresas em direcionar e induzir seus clientes a consumir um produto? Qual o limite para decidir o que devo e posso consumir e o que não?

Estes algoritmos, podem gerar um paradoxo que não temos a menor ideia de como pode acabar.

Se existem algoritmos que, baseados em meus hábitos de consumo e navegação, me oferecem o conteúdo mais aderente ao meu perfil, e outros que analisam meus hábitos para criar conteúdos e produtos a medida, isso me leva a um paradoxo.

No inicio me ofereciam algo que eu gostava, agora criam e entregam algo que imaginam ou sabem que eu vou gostar.

No final, eu consumo algo que não sei se é o que eu realmente quero ou o querem que eu queira…

Mais que um trava-línguas é um dilema que pode ser perverso.

E estes algoritmos estão cada vez mais invadindo o meu direito de escolha, se é que algum dia ele existiu.

Me vejo, vivendo dentro da maravilhosa canção admirável gado novo de Zé Ramalho.

Ê, ô, ô, vida de gado

Povo marcado, ê!

Povo feliz!

E quem não gostar do que a maioria gosta?

Para está as técnicas de neuromarketing, gatilhos mentais usados de forma pouco éticas, para “convencer” a você entrar na trilha.

O Facebook admitiu recentemente que monitora a localização dos usuários, mesmo quando a função está desativada, ou seja, contra a minha vontade. Os algoritmos de reconhecimento de voz, facial e de linguagem corporal, são capazes de analisar meu estado de humor.

Os algoritmos de análise grafológica podem analisar meus textos, minhas postagens e, cruzando com todo o anterior, utilizando computação quântica, que já está no mercado, podem traçar um perfil comportamental, inclusive antecipando-se a tendências e comportamentos futuros, antes de que eu mesmo saiba que os terei.

Isso é bom ou ruim?

Se for usado para evitar comportamentos suicidas, genocídios, dependências, e outros comportamentos nocivos à sociedade, é ótimo.

Agora, se servir somente para tentar me empurrar goela abaixo o último hit da Pablo Vitar… me desculpem, mas ao menos para mim, é péssimo.

Mas onde está a novidade?

A manipulação de massas sempre existiu, através da oratória, da arte, dos meios de comunicação, etc.

Porém, a diferença é que antes, a origem das mensagens vinha de uma mente, normalmente com inteligência acima da media, que surgia de tempos em tempos, que tinha um poder de comunicação limitado pela geografia e recursos financeiros.

Hoje, com tecnologia, a origem pode ser um algoritmo, com uma capacidade absurdamente elevada e um poder de propagação global a custo zero. E se for feito de forma estruturada e com recursos, pode se converter em uma arma perigosíssima.

Então, onde está o limite?

Quem deve impor este limite?

Sinceramente acho pouco provável que a legislação seja capaz de controlar isso. A lei deve evitar, controlar e punir as exceções, a regra deve ser regulada pela conscientização.

Onde as empresas, leia-se executivos, sejam conscientes de que suas decisões e ações corporativas transcendem os resultados do final do trimestre e impactam as pessoas. Que não vale tudo para alcançar os resultados.

É uma utopia?

Seria se a criatura não afetasse ao criador, mas, neste caso, nem mesmos os criadores destes algoritmos estão livres de seus efeitos. Só precisam entender que eles e seus familiares fazem parte do mesmo coletivo que manipulam.

Otimizar processos e algoritmos para vender mais não é ruim em si mesmo.

Mas termino com a mesma dúvida do início.

Onde está o limite da otimização?