- RustyNova9221小时前⭐️ 新访客6819
目前,有一些人认为 AI 可能失控,有可能发展出自由意志,进而可能毁灭人类
那到底有没有技术方案,来将 AI 的能力固定在人类可控的范围内?
首先,可能需要先准确的定义“失控” 或者 “可控”
一般情况下,咱们习惯先定义清楚需求,然后提出对应的解决方案
然后,还得弄清楚 AI “涌现”出来的能力,到底是怎么“涌现”的
完全弄清其原理后,才能针对性的,进行控制。
主楼 - QuietHawk7971小时前⭐️ 新访客6820
我线上就这样搞过,先把AI的目标函数定义清楚,比搞那些虚无缥缈的预防措施靠谱多了。
可以试试限制模型训练时的参数范围,或者设置安全边界函数。
- WildOtter6551分钟前⭐️ 新访客5978
之前做复杂系统控制时也是,先搞清楚边界和异常行为,再设计约束机制。