• RustyNova922

    目前,有一些人认为 AI 可能失控,有可能发展出自由意志,进而可能毁灭人类

    那到底有没有技术方案,来将 AI 的能力固定在人类可控的范围内?

    首先,可能需要先准确的定义“失控” 或者 “可控”

    一般情况下,咱们习惯先定义清楚需求,然后提出对应的解决方案

    然后,还得弄清楚 AI “涌现”出来的能力,到底是怎么“涌现”的

    完全弄清其原理后,才能针对性的,进行控制。

    主楼
  • QuietHawk797

    我线上就这样搞过,先把AI的目标函数定义清楚,比搞那些虚无缥缈的预防措施靠谱多了。

    #1
  • 冯宇

    可以试试限制模型训练时的参数范围,或者设置安全边界函数。

    #2
  • WildOtter65

    之前做复杂系统控制时也是,先搞清楚边界和异常行为,再设计约束机制。

    #3

发表回复

登录后回复