Notícias recentes revelam em dois colégios o uso da inteligência artificial por alunos na montagem de fotos “falsas” de alunas em cenas de nudez. Ocorreu em colégios do Recife e do Rio de Janeiro, como divulgou a mídia nos últimos dias. A polícia civil foi acionada e acompanha o caso, e os colégios adotam providências internas, pressionados pelos pais de diversos alunos a expulsar os supostos infratores sob pena de não renovarem as matrículas para 2024.
Isso é apenas uma gota no oceano. A inteligência artificial inevitavelmente fará parte do cotidiano das instituições de ensino, no setor administrativo, no ambiente pedagógico e no convívio entre os alunos. Infelizmente, as notícias indicadas acima revelam apenas o uso indevido e inadequado de referidas ferramentas, o que acende um alerta.
Cada dia surge uma aplicação nova, melhorada, de fácil utilização. A velocidade com que isso acontece exige abordagem em diversas frentes. O uso da inteligência artificial no ambiente educacional (no aspecto administrativo, pedagógico e comportamental) exige imediata e condizente reflexão sobre os aspectos jurídicos que se perceberão cada vez mais presentes.
As instituições de ensino superior estão preparadas para conviver com o uso da inteligência artificial e controlar o uso por alunos e professores com base em regras éticas e jurídicas? O que deverá ser previsto nos contratos de prestação de serviços sobre estes assuntos? Por exemplo, se adotada a inteligência artificial na correção de avaliações, é certo que o contrato de prestação de serviços educacionais deverá prever tal possibilidade (exigência justificada com base na legislação civil e no Código de Defesa do Consumidor). Sem envolver tecnologia, a intervenção do Judiciário tem sido mais recorrente, como em caso recente envolvendo uma aluna de curso superior de Medicina, em que o Poder Judiciário determinou que a instituição fundamentasse as notas da aluna.
O que deverá prever o regimento interno das instituições de ensino acerca dos atos praticados de maneira virtual, fora do ambiente escolar, mas envolvendo alunos do mesmo colégio? Crimes digitais, cyberbullying e racismo envolvendo alunos exigirão regras e respostas imediatas. Eventual penalidade, para ser aplicada com segurança, exigirá instrumentos regimentais adequados, sob pena de riscos de nulidades declaradas pelo Poder Judiciário (como neste exemplo).
O que deverá prever o manual de conduta ou código de ética das instituições no que tange ao desenvolvimento de trabalhos ou atividades, pelos professores, fazendo uso da inteligência artificial? Como ficará a questão dos créditos, da propriedade intelectual e como deverá o professor se comportar nesse sentido? O tema ainda não tem solução, como se vê neste texto sobre o tema. Mas o ideal é que as instituições tratem do assunto com professores e alunos, pelo menos, inicialmente, desenhando “boas práticas”.
O que se exigirá para o uso de ferramentas de inteligência artificial para identificar e abordar potenciais alunos com tendência à evasão? Um “robô” identifica as faltas, relaciona com o pagamento das mensalidades, verifica se o aluno fez provas e envia uma mensagem para o celular do potencial desistente. Haverá limites para o tratamento destes dados pessoais? O que deverá constar no programa de privacidade (LGPD) das instituições de ensino a legitimar tal uso?
Diante destes pequeninos exemplos, o quanto (e a que tempo) a inteligência artificial exigirá reinventarmos os métodos regulatórios, pedagógicos e avaliativos das instituições de ensino superior? No momento, são mais perguntas do que respostas. É por isso que o Semesp, o Consórcio STHEM e a MetaRed TIC Brasil organizaram e conduzem, juntos, um Grupo de Trabalho focado no estudo e na propositura de apoio às instituições de ensino superior com relação ao impacto da inteligência artificial, tanto no foco administrativo, quanto no pedagógico, sem perder de vista os liames jurídicos.
São quatro equipes assim divididas: legislação e ética; empoderamento do professor; empoderamento da gestão; pesquisa e futuro da inteligência artificial. Esse texto é uma iniciativa deste grupo.
A intenção deste texto inicial é provocar as instituições de ensino para que estejam antenadas, proativas e permitam que tudo ocorra num formato “by design”, ou seja, pensar na exploração dos benefícios da inteligência artificial sem perder de vista o viés ético e jurídico envolvido.
*Luis Fernando Rabelo Chacon, participante do Grupo de Trabalho sobre Inteligência Artificial – Consórcio STHEM Brasil, SEMESP, METARED. Advogado e consultor jurídico no setor educacional no Chacon Macedo Oliveira Sociedade de Advogados; e professor Universitário do Centro Universitário Salesiano de São Paulo – Unisal Lorena.
