Já pensou qual é a sua responsabilidade no uso de Inteligência Artificial (IA)? O que aconteceria se o seu sistema fosse acusado de discriminação ou violação de privacidade? Como sua empresa responderia a uma fiscalização que identificasse riscos não mitigados em seus algoritmos?

Essas questões estão mais próximas da realidade do que nunca. Com a aprovação do projeto de lei sobre Inteligência Artificial pelo Senado Federal em 10 de outubro de 2024, o Brasil ingressa em uma nova era de regulação, que afeta diretamente empresários e profissionais de TI.

A seguir, apresentamos uma análise aprofundada sobre os principais aspectos do marco regulatório, com exemplos concretos, implicações práticas e estratégias para adaptar seus negócios ao novo cenário.

O QUE FOI APROVADO NO BRASIL (SENADO)

Obs: o projeto ainda será debatido na câmara dos deputados

Centralidade da Pessoa Humana

O marco regulatório estabelece como princípio fundamental que a dignidade, os direitos fundamentais e o bem-estar do ser humano devem estar no centro do desenvolvimento e uso de sistemas de Inteligência Artificial (IA).

Citação Legal:  Artigo 2º, inciso I: “O desenvolvimento, a implementação e o uso de sistemas de inteligência artificial no Brasil têm como fundamentos: I – a centralidade da pessoa humana.”

• Exemplo Hipotético: Um sistema de recrutamento deve garantir processos inclusivos, eliminando vieses relacionados a idade, gênero ou etnia.
• Exemplo Real: Em 2020, o sistema de IA SyRI foi desativado na Holanda por discriminação e violação de privacidade. https://uitspraken.rechtspraak.nl/inziendocument?id=ECLI:NL:RBDHA:2020:1878 

Classificação e Regulação de Riscos

A nova legislação classifica sistemas de IA por níveis de risco. Aqueles considerados de alto risco, como sistemas em saúde, justiça e segurança, estão sujeitos a regras rigorosas.

Citação Legal: Artigo 17, §1º: “São considerados sistemas de inteligência artificial de alto risco aqueles utilizados para as seguintes finalidades: [...] educação, recrutamento, justiça, saúde.”

• Exemplo Hipotético: Ferramentas que determinam elegibilidade para benefícios sociais devem passar por auditorias para prevenir exclusões indevidas.
• Exemplo Real: O sistema COMPAS nos EUA, usado para prever reincidência, foi criticado por viés racial. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing 

Avaliação de Impacto Algorítmico

Sistemas de alto risco deverão passar por avaliações obrigatórias para mitigar riscos aos direitos fundamentais.

Citação Legal: Artigo 18, §1º: “A avaliação de impacto algorítmico deverá verificar os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema e as consequências adversas.”

• Exemplo Hipotético: IA em transportes autônomos realiza testes regulares para garantir segurança.
• Exemplo Real: Na Austrália, o sistema de IA "Robodebt" foi descontinuado após erros prejudiciais em cobranças. https://robodebt.royalcommission.gov.au/publications/report 

Proteção de Direitos Autorais

A legislação permite o uso de obras protegidas por direitos autorais exclusivamente para fins acadêmicos ou de pesquisa, sem fins comerciais.

Citação Legal: Artigo 22, §1º: “Os conteúdos protegidos por direitos autorais poderão ser utilizados exclusivamente para fins de pesquisa, desde que obtidos de forma legítima e sem fins comerciais.”

• Exemplo Real: O dublador Wendel Bezerra - conhecido por dar voz a personagens como Bob Sponja e Goku (Dragon Ball Z) - registrou um boletim de ocorrência por encontrar uma loja virtual que fornecia sua voz gerada por I.A.

https://www.tecmundo.com.br/software/294467-dublador-wendel-bezerra-bo-policia-uso-ilegal-voz-ia.htm 

Sistemas Proibidos

O texto proíbe sistemas que:

• Manipulem comportamentos por técnicas subliminares.
• Explorem vulnerabilidades psicológicas.
• Coloquem em risco saúde, segurança ou direitos fundamentais.

Citação Legal: Artigo 23, §1º: “É proibido o desenvolvimento ou uso de sistemas de inteligência artificial com o objetivo de induzir comportamentos que coloquem em risco a saúde, segurança ou direitos fundamentais.”

• Exemplo Real: O Clearview AI, sistema de reconhecimento facial, foi multado por coleta ilegal de dados. https://canaltech.com.br/seguranca/empresa-e-multada-por-coletar-fotos-online-para-sistema-de-reconhecimento-facial/ 

Direitos dos Afetados

Pessoas impactadas por decisões automatizadas têm direito a:

• Explicação clara.
• Contestação.
• Revisão humana das decisões.

Citação Legal: Artigo 28, §1º: “As pessoas afetadas por sistemas de inteligência artificial têm assegurado o direito à explicação, contestação e revisão humana.” 

Um exemplo poderia ser a complexidade de avaliação de aprendizagem de estudantes, e não apenas interpretação de testes objetivos https://abmes.org.br/blog/detalhe/18848/a-complexidade-de-avaliar-a-aprendizagem-dos-estudantes-no-contexto-da-ia 

CONCLUSÃO

O novo marco regulatório é algo que, ainda que adiado, é inevitável (tal como a responsabilidade das plataformas digitais e o Art. 19 do MCI). Empresários e profissionais de TI devem agir rapidamente para adaptar suas operações. Assim como a tecnologia evolui, sua aplicação deve se alinhar às regras. Afinal, talvez o pragmatismo seja o maior aliado em momentos como esse.

 Notícia: https://www.gov.br/cultura/pt-br/assuntos/noticias/senado-federal-aprova-marco-regulatorio-da-inteligencia-artificial