Sugestões de Comentários de IA: FAQ de IA Responsável

O que é sugestão de comentários de IA?

As sugestões de comentários de IA são um recurso que torna mais fácil para os educadores quando eles querem fornecer comentários aos alunos como parte do fluxo de Atribuições usando IA. Em Atribuições, os educadores podem optar por fazer com que Copilot examine seus comentários resumidos e aprimore-os, os educadores que estão usando Rubric podem fazer com que Copilot revise sua seleção rubrica e resumi-la.

Copilot sempre usa a entrada do Educador como base dos comentários resumidos sugeridos, e o educador sempre precisará confirmar a atualização sugerida e adicionar possíveis edições, antes de retornar ao aluno.

Um educador não deve atribuir notas com base nos comentários gerados pela IA.

O que a Sugestão de Comentários de IA pode fazer?

Copilot pode fazer o seguinte:

Aprimorar comentários resumidos – Copilot pode sugerir comentários resumidos atualizados ao usar o Classificador de Velocidade de Atribuição. Para aprimorar os comentários resumidos, o educador deve primeiro adicionar um mínimo de 50 caracteres antes que o copiloto possa expandir os comentários. Depois que gerado, o educador pode optar por ter os comentários gravados em diferentes tons. Tom básico, instrucional ou coaching . O educador pode escolher qual tom usar.
- Tom básico: desmarque e conciso. Fornece comentários diretos sem detalhes extras, ideal para correções rápidas ou esclarecimentos.
- Instructional Tone: Acionável e detalhado. Oferece diretrizes passo a passo para ajudar os alunos a entender como melhorar e criar habilidades específicas.
- Tom de treinamento: solidário e motivacional. Incentiva a auto-reflexão, promove o crescimento e inspira os alunos a se apropriarem de sua jornada de aprendizagem.
Resumo da Seleção rubrica – Copilot pode sugerir um resumo da sua seleção rubrica ao usar uma atribuição com uma rubrica. Para resumo da seleção rubrica, o educador primeiro seleciona os valores rubricos que refletem o desempenho do aluno. Depois de gerado, o educador pode optar por ter os comentários gravados em um dos três tons: Básico, Instrucional ou Coaching. Isso permite que o educador adapte o tom às necessidades do aluno. Se o educador também incluiu comentários rubricos e comentários resumidos, Copilot também incluirá isso como entrada para os comentários resumidos sugeridos.

Além dos comentários iniciais do educador e da seleção rubrica, Copilot também considerará o tom Rubric, Grade, Linguagem e Comentários quando Copilot gerar os comentários sugeridos

O que os Comentários Sugeridos de IA destinam-se a usar(s)?

A IA Suggest Feedback destina-se a educadores no Speedgrader. Esse recurso só está disponível para educadores e educadores devem examinar e aprovar o conteúdo gerado antes de ser mostrado aos alunos. Os recursos sempre usam a entrada do educador para qualquer comentário sugerido gerado.

Um educador não deve atribuir notas com base nos comentários gerados pela IA.

Quais são as limitações dos Comentários Sugeridos de IA? Como os usuários podem minimizar o impacto das limitações ao usar o sistema? 

Os comentários sugeridos por IA não são fundamentados no conhecimento factual e, embora sejam gravados de forma fluente e gramaticalmente correta, o conteúdo gerado pode ser impreciso ou inapropriado. Ele não pode entender o significado ou avaliar a precisão, então os educadores precisam revisar o que ele grava e usar seu melhor julgamento. Os educadores devem validar e revisar todos os comentários gerados para garantir a precisão e a relevância.

Para melhorar a qualidade da saída, os educadores devem fornecer entradas claras e detalhadas, como instruções de atribuição bem definidas e rubricas. O recurso é otimizado para conteúdo baseado em texto, como ensaios ou atribuições escritas, e pode não ser executado tão efetivamente com conteúdo numérico ou focado em ciência. Para obter os melhores resultados, use esse recurso com atribuições que exigem comentários escritos detalhados.

Um educador não deve atribuir notas com base nos comentários gerados pela IA.

Quais fatores operacionais e configurações permitem o uso efetivo e responsável de comentários sugeridos de IA?

O uso efetivo e responsável de comentários sugeridos por IA requer a implementação cuidadosa de fatores operacionais e a configuração cuidadosa das configurações. As principais considerações incluem:

Entrada clara e detalhada
- Forneça instruções de atribuição precisas e rubricas bem construídas para orientar a IA na geração de comentários contextualmente relevantes.
- Verifique se as rubricas estão alinhadas com os resultados de aprendizagem desejados e contenham critérios de desempenho claros.
Revisão e Validação do Educador
- Sempre examine e valide os comentários gerados por IA para confirmar a precisão, a relevância e o alinhamento com as necessidades específicas do aluno.
- Evite a dependência excessiva da IA; use-o como um complemento ao julgamento humano, não como um substituto.
Alinhamento de tipo de conteúdo
- Reconheça as limitações do sistema com conteúdo numérico ou altamente técnico/focado em ciência.
Seleção de Tom
- Escolha um tom apropriado (Básico, Instrucional ou Coaching) que corresponda às necessidades e às metas de desenvolvimento do aluno.
- Experimente tons para equilibrar clareza, motivação e diretrizes acionáveis.
Treinamento do Educador
- Forneça aos educadores treinamento sobre como inserir dados efetivamente e interpretar saídas geradas por IA.
- Compartilhe as melhores práticas para integrar comentários de IA em estratégias de ensino.

Idiomas com suporte

Em geral, o AI Suggested Feedback] dá suporte à saída de idiomas a seguir: en-US, de-DE, fi-FI, sv-SE, fr-FR, es-ES, es-MX, nb-NO, it-IT, pt-BR,pt-PT, nl-NL, da-DK,ja-JP,fr-CA, pl-PL

Para outros locais em inglês são usados como entrada, por exemplo, EN-UK ou EN-AU, o sistema será gerado no EN-US

O sistema não foi especificamente avaliado para a grande variedade de dialetos e sociolectos representados em inglês.

Modelos de IA generativos são treinados usando grandes quantidades de dados, e esses dados são mais frequentemente em inglês. Isso às vezes pode resultar em um melhor desempenho em inglês em comparação com idiomas que não são ingleses. Assim como acontece com qualquer implantação de modelos de IA generativos, incentivamos os usuários a estarem atentos às limitações desses sistemas para seu caso de uso específico e contextos culturais e linguísticos.

A Microsoft está planejando adicionar idiomas e locais mais compatíveis aos Comentários Sugeridos de IA. Esse artigo será atualizado conforme houver suporte para idiomas adicionais. 

Avaliação do Sistema

A IA sugeriu que o Feedback foi avaliado por meio de extensos testes manuais e automatizados. Mais avaliações foram realizadas em conjuntos de dados personalizados para prompts ofensivos e mal-intencionados (perguntas do usuário) e respostas. Além disso, os comentários sugeridos pela IA são avaliados continuamente com comentários do usuário.

O sistema não foi especificamente avaliado para a grande variedade de dialetos e sociolectos representados em inglês.

O que devo fazer se vir uma saída inesperada ou ofensiva ao usar comentários sugeridos de IA?

Se você vir saídas ofensivas, envie comentários em Atribuições usando os polegares para cima/polegares para baixo comentários na interface do usuário de classificação para que possamos melhorar nossas proteções. A Microsoft leva esse desafio muito a sério e temos o compromisso de enfrentá-lo.