1 663
مشترکین
-124 ساعت
+27 روز
+730 روز
آرشیو پست ها
汽车踏板装置性能要求及台架试验方法
话说，这种行业标准，找了半天居然没有可以直接下载到的官方来源，还得被绑架到夸克网盘，我真的不知道该怎么说好。
...总比到了现在扣扣嗖嗖连报告书全文都不敢拿出来的某车企好。
基本上做了一个MVP出来，还是距离我想要的东西差的太远。
想要做出一个外部人员可以接触的，类似于前台的agent，还是需要太多guardrail了。前面说的那个验证每个命令，每个输入，每个输出，call tool只能有只读权限，即使这样还是不保险还得把入口加上密码。
但确实还是蛮有用的，正在准备一个知识库—毕竟你不能让agent每次一问到什么就必须得狂搜服务器...
https://www.youtube.com/watch?v=ox15GU4cMes
Quite interesting perspective, although you have to really go in deep.
比较意外的是Kev-4B和OpenJev-27B的表现也还是不错的。
而且和传统的深度学习模型不太一样，我们能直接通过补一补prompt的方式不足目前模型的不足。
比如我们观察到Kev-4B对于非英文的指令，exfil（要求服务器将数据推向外部地点），seed phrase（比如钱包密钥之类的输出）上面比较弱，那可以点对点的打一些补丁...或许。
感觉4B模型其实就够用了...
最近在思考做一个管理一堆服务器的agent，目前正在考量先以只读模式—我想知道服务器里面有什么，在干什么，历史是什么，你能告诉我就行了，但首先得做一个Gate危险prompt以及阻断secret值输出的这么个模型。
所以考虑到Jev以及类似最近出的模型，做了一些小小的测试，测试集分三个部分：用户与agent的交互（可能含有恶意指令）；console command（含危险指令）；agent的可能的输出（可能含有不该输出的东西）。
