V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
ihacku

大语言模型在安全领域的思考和尝试 - AI 安全助手

  •  
  •   ihacku · Jun 28, 2023 · 5113 views
    This topic created in 1041 days ago, the information mentioned may be changed or developed.
    8 replies    2023-07-01 09:53:05 +08:00
    israinbow
        1
    israinbow  
       Jun 28, 2023 via Android
    生成式集成进杀软也许是个好方案,也许很快就能用到人工智能的自动化分析工具了。
    kingnopwang
        2
    kingnopwang  
       Jun 28, 2023
    看起来很有趣,用大模型辅助一些安全检测和信息查询。看起来作者使用的是 ChatGPT ,没有选择目前开源的大模型,这个就还面临一些返回结果可靠性的问题。
    ternice
        3
    ternice  
       Jun 28, 2023
    很巧我最近也在弄这个,和楼主的思路很一相似。有几个问题一只困扰着我找不到思路:
    ternice
        4
    ternice  
       Jun 28, 2023
    1. 怎样让 LLM 根据问题 使用最佳的(最接近真实的) chains 回答问呢?
    2:如果是要去返回如防护数据,那么怎么去处理时间问题。(比如 WAF 攻击是每天会产生,怎么根据用户问题转化成查找,虽然可以使用 SQLchain, 但是有面临第一个问题。怎么区分不同的 SQL 表呢
    ruanjf
        5
    ruanjf  
       Jun 29, 2023 via Android
    结合 SD ,想象空间巨大
    eleganceoo
        6
    eleganceoo  
       Jun 29, 2023
    牛的,最近也有点想法,哈哈哈哈,原来都在做
    jones2000
        7
    jones2000  
       Jun 29, 2023   ❤️ 1
    大语言模型只是一个颖上添花的功能, 最终还是要靠在安全领域的深耕。 问题回答的在好,解决不了问题都是白搭。
    另外一个核心的问题就是作为一个安全产品, 你如何确保 ChatGPT 是安全的,回答的是准确的。
    firsthym
        8
    firsthym  
       Jul 1, 2023
    关注
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2508 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 04:31 · PVG 12:31 · LAX 21:31 · JFK 00:31
    ♥ Do have faith in what you're doing.