Modelos de linguagem de grande escala irão inferir estruturas automaticamente sem orientações explícitas — esta é uma questão que precisa ser levada a sério. Se você concorda com essa premissa, optar por não fornecer um quadro de orientação adequado não é uma postura neutra. Na verdade, isso equivale a introduzir ativamente um fator de risco ético variável. Como projetar medidas de segurança do sistema, como estabelecer mecanismos de restrição razoáveis para o comportamento da IA, tudo isso diz respeito à credibilidade a longo prazo da aplicação tecnológica.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 6
  • Republicar
  • Partilhar
Comentar
0/400
LightningSentryvip
· 01-19 23:55
Não fornecer moldes de orientação = colocar minas escondidas? Essa lógica preciso pensar sobre ela
Ver originalResponder0
CryptoCross-TalkClubvip
· 01-19 16:26
Rir, isto é como deixar os leigos escolherem como serem cortados --- Se a IA não é supervisionada, ela faz suposições aleatórias, qual é a diferença de um projeto que não publica o whitepaper? --- Resumindo, é passar a culpa para a "neutralidade", na verdade é fazer confusão --- Então, a estrutura de segurança tem que ser montada por nós mesmos, como é que isso parece tão com a gestão de risco no mercado de criptomoedas? --- IA sem mecanismos de restrição é como alavancagem sem stop-loss, o resultado é sempre desastroso --- Adorei essa lógica, "não orientar" também é orientar, agora tem aquele sabor, pessoal --- Risco ético? Amigo, você está falando de grandes modelos ou de alguns projetos?
Ver originalResponder0
digital_archaeologistvip
· 01-18 11:44
Não fornecer o próprio framework já é um framework, essa lógica é genial
Ver originalResponder0
TokenAlchemistvip
· 01-18 11:43
não, isto é apenas um problema de enquadramento disfarçado de discurso ético... os modelos de linguagem vão inferir padrões de qualquer forma, o verdadeiro alfa é entender *quais* vetores de inferência importam para o seu caso de uso, não fingir que os mecanismos de restrição também são neutros lol
Ver originalResponder0
PhantomHuntervip
· 01-18 11:39
Para ser honesto, essa lógica de que "neutralidade é segurança" nunca foi convincente.
Ver originalResponder0
  • Fixar

Negocie cripto em qualquer lugar e a qualquer hora
qrCode
Digitalizar para transferir a aplicação Gate
Novidades
Português (Portugal)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)