Inteligência Artificial: oportunidades e riscos legais para os shopping centers

Os shopping centers podem ser considerados verdadeiras plataformas de dados digitais, para além de serem empreendimento onde funcionam lojas, de diferentes donos e marcas, configuradas de acordo com o planejamento de diversidades de ofertas (tenant mix). As frequentes campanhas promocionais lançadas pelos shoppings geram a coleta de milhares de dados de consumidores, permitindo o perfilamento por meio de identificadores de produtos comprados (SKU-stock keeping unit), bem como de informações entregues pelo participante. 

Outros mecanismos utilizados nos sites e apps dos shoppings também consistem em meio de acúmulo de dados, a exemplo do emprego de pixels, SDK (software development kit), ad tracking, e outras formas de monitoramento e conversão. 

Por meio dessa imensidão de dados, com o emprego de analytics, é possível atingir o comércio inteligente. Como um elo entre lojistas e consumidores, os shoppings são capazes de processar dados e tomar decisões de maior valor ao negócio.

No universo dos shopping centers também se encontra o conceito de edifício inteligente, por meio da aplicação de inteligência artificial (IA) de vídeo analytics, visando a trazer mais segurança ao estabelecimento comercial, para evitar e combater crimes e conferir alertas de fumaça e incêndio.  

Mas o valor extraído dos dados para o negócio somente é possível, graças às soluções com tecnologia de IA. Conhecer o comportamento do consumidor ajuda ao shopping e aos varejistas a entregarem produtos e serviços com mais qualidade. Aplicações com IA permitem identificar desde o humor do cliente até qual área da loja tem lhe chamado mais a atenção. Também é possível medir o tipo de público que frequenta o shopping, atrelando com quais produtos e quando são mais ou menos consumidos.

Além disso, é sabido que, além de centros comerciais de compras, também são lugares de experiência. Nesse sentido, a análise de dados históricos agregados a análises preditivas, permitidas pela IA, conferem importantes diferenciais à empresa. 

Fato é que podemos dizer que vivemos tempos da algocracia, termo inicialmente cunhado por A. Aneesh, em 2006, e, posteriormente, desenvolvido por John Danaher, em 2016, para descrever “um sistema de governança particular, no qual está organizado e estruturado com base em algoritmos programados por computador”. E as maiores ameaças ligadas ao fenômeno da algocracia consistem nas preocupações veladas e nas preocupações opacas. A primeira se relaciona com a maneira sobre a qual os dados pessoais dos indivíduos são coletados e usados pelos sistemas inteligentes automatizados, porquanto podem ser realizados de forma secreta e escondida, sem o devido consentimento, legítimo interesse, ou outra base legal que o autorize. A segunda está relacionada com as bases racionais desses sistemas, uma vez que a explicação de seu funcionamento permanece inacessível ou opaco, ou seja, a opacidade associada aos algoritmos. Essa última é praticamente insuperável, em razão do caráter black blox da IA deep learning.

Mais recentemente, eclodiu o uso da Inteligência Artificial Generativa (IAGen), com o popular ChatGPT, da Open AI. Outras empresas estão anunciando suas aplicações em IAGen (Google, Amazon, etc). É, sem dúvida, algo revolucionário cuja tecnologia, mediante treinamento prévio, é capaz de gerar conteúdo complexo. É preciso ter atenção, contudo, para questões de privacidade, direitos autorias e segredos do negócio ao usar esse tipo de ferramenta em âmbito corporativo. Recomenda-se regrar o uso desse tipo de ferramenta por meio de Política e treinamento ao corpo de colaboradores dos shoppings. No Brasil ainda não há legislação específica para regulação da Inteligência Artificial, embora o Projeto de Lei nº 2338/2023 esteja em pleno vapor no andamento legislativo. Não obstante, há extensa literatura com recomendações de regras éticas, de governança e de melhores práticas para mitigar problemas, como vieses discriminatórios, dentre outros desvios que podem resultar em pagamento de perdas e danos e outras reprimendas.

É importante seguir orientações que são básicas para a regulação, geral ou específica, no tema. Nesse sentido, baseado nas recomendações elaboradas no Ethics Guidelines for Trustworthy Artificial Intelligence publicado em 2019, recomenda-se aos shopping centers:

1. Assegurar que o desenvolvimento, a implantação e a utilização de sistemas de Inteligência Artificial satisfazem os requisitos para uma Inteligência Artificial de confiança: a) ação e supervisão humanas; b) solidez técnica e segurança; c) governança dos dados; d) transparência; e) diversidade, não discriminação e equidade; f) preocupação ambiental e social; g) accountability.
2. Ponderar métodos técnicos e não técnicos para assegurar a aplicação desses requisitos.
3. Promover a investigação e a inovação para ajudar a avaliar os sistemas de Inteligência Artificial e a melhorar o cumprimento dos requisitos.
4. Comunicar, de forma clara e proativa, informações às partes interessadas sobre as capacidades e as limitações do sistema de Inteligência Artificial, permitindo-lhes criar expectativas realistas, e sobre a forma como os requisitos são aplicados. 
5. Facilitar a rastreabilidade e a auditabilidade dos sistemas de Inteligência Artificial, sobretudo em contextos ou situações críticas, tais como podem ser encontradas no universo dos shopping centers, comentadas nesse artigo.
6. Estar ciente de que podem existir conflitos fundamentais entre diferentes princípios e requisitos. Identificar, avaliar, documentar e comunicar continuamente essas soluções de compromisso.

Seguindo diretrizes éticas e limites legais, ainda que por regras gerais em razão da falta de lei específica na matéria, é possível se valer de soluções de IA no contexto dos shoppings centers, enquanto plataformas de dados, com potencial de extração de importantes diferenciais para maior valor ao negócio em benefício das partes, incluindo consumidores, lojistas, empregados e fornecedores.

*A opinião dos autores não reflete, necessariamente, a opinião da Abrasce.