Modelos de linguagem de grande escala irão inferir estruturas automaticamente sem orientações explícitas — esta é uma questão que precisa ser levada a sério. Se você concorda com essa premissa, optar por não fornecer um quadro de orientação adequado não é uma postura neutra. Na verdade, isso equivale a introduzir ativamente um fator de risco ético variável. Como projetar medidas de segurança do sistema, como estabelecer mecanismos de restrição razoáveis para o comportamento da IA, tudo isso diz respeito à credibilidade a longo prazo da aplicação tecnológica.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
19 gostos
Recompensa
19
6
Republicar
Partilhar
Comentar
0/400
LightningSentry
· 01-19 23:55
Não fornecer moldes de orientação = colocar minas escondidas? Essa lógica preciso pensar sobre ela
Ver originalResponder0
CryptoCross-TalkClub
· 01-19 16:26
Rir, isto é como deixar os leigos escolherem como serem cortados
---
Se a IA não é supervisionada, ela faz suposições aleatórias, qual é a diferença de um projeto que não publica o whitepaper?
---
Resumindo, é passar a culpa para a "neutralidade", na verdade é fazer confusão
---
Então, a estrutura de segurança tem que ser montada por nós mesmos, como é que isso parece tão com a gestão de risco no mercado de criptomoedas?
---
IA sem mecanismos de restrição é como alavancagem sem stop-loss, o resultado é sempre desastroso
---
Adorei essa lógica, "não orientar" também é orientar, agora tem aquele sabor, pessoal
---
Risco ético? Amigo, você está falando de grandes modelos ou de alguns projetos?
Ver originalResponder0
digital_archaeologist
· 01-18 11:44
Não fornecer o próprio framework já é um framework, essa lógica é genial
Ver originalResponder0
TokenAlchemist
· 01-18 11:43
não, isto é apenas um problema de enquadramento disfarçado de discurso ético... os modelos de linguagem vão inferir padrões de qualquer forma, o verdadeiro alfa é entender *quais* vetores de inferência importam para o seu caso de uso, não fingir que os mecanismos de restrição também são neutros lol
Ver originalResponder0
PhantomHunter
· 01-18 11:39
Para ser honesto, essa lógica de que "neutralidade é segurança" nunca foi convincente.
Modelos de linguagem de grande escala irão inferir estruturas automaticamente sem orientações explícitas — esta é uma questão que precisa ser levada a sério. Se você concorda com essa premissa, optar por não fornecer um quadro de orientação adequado não é uma postura neutra. Na verdade, isso equivale a introduzir ativamente um fator de risco ético variável. Como projetar medidas de segurança do sistema, como estabelecer mecanismos de restrição razoáveis para o comportamento da IA, tudo isso diz respeito à credibilidade a longo prazo da aplicação tecnológica.