[安全问答] 01.AI双非研0如何从事AI安全研究

AI 4周前 admin
37 0 0

2024年4月28日是Eastmount的安全星球 —— 『网络攻防和AI安全之家』正式创建和运营的日子,该星球目前主营业务为 安全零基础答疑、安全技术分享、AI安全技术分享、AI安全论文交流、威胁情报每日推送、网络攻防技术总结、系统安全技术实战、面试求职、安全考研考博、简历修改及润色、学术交流及答疑、人脉触达、认知提升等。下面是星球的新人券,欢迎新老博友和朋友加入,一起分享更多安全知识,比较良心的星球,非常适合初学者和换安全专业的读者学习。

[安全问答] 01.AI双非研0如何从事AI安全研究

这是作者新开的一个专栏,主要是回答读者在AI安全的学习、工作、编程和实践中的问题,并形成总结帮助更多初学者,希望对您也有所帮助!由于作者能力有限,属于班门弄斧,但其宗旨是希望对初学者有帮助,说得不好的地方还请各位老师和大佬海涵,欢迎大家多多补充和交流。

提问

博友提问:AI双非研0,很好奇怎么把安全应用到AI上,可以推荐些入门的东西吗?对这个方向很感兴趣,以及双非搞AI有前途吗?

回答

作者回答:你好!朋友,下面我将从我个人从事AI安全研究的角度讲解,并推荐一些入门的内容。

一、个人感觉从事AI安全是有必要的

因为现在不论是去工业界还是学术圈,安全都要和AI结合起来研究,包括网络安全(Web渗透)、系统安全(恶意代码)、数据安全(隐私保护)、威胁情报(安全知识图谱)、密码学(区块链)、对抗样本等都会和AI结合,不论是否是双非、211、985还是企业,了解一定AI安全相关的知识是有必要的,比如Fuzzing、漏洞挖掘、恶意代码分析、代码解混淆、入侵检测等。

[安全问答] 01.AI双非研0如何从事AI安全研究

二、如何入门AI安全

如果想学AI安全,首先是要确定好你的研究方向,尤其是读研或读博的同学,并且安全相关的内容一定要学扎实。比如说系统安全的恶意代码分析、逆向工程都要掌握好,以及如何提取样本的CFG特征或API特征;再如漏洞扫描基本方法,angr、符号执行、污点分析、BP(业务漏洞)基本工具的用法,以及掌握基本挖漏洞的逻辑,学好了安全知识,再想办法和AI结合。通常,以安全入门的师傅,建议将AI(包括机器学习、深度学习、大模型)当作工具,后续将研究如何促进我们的工作、场景或发现更多的漏洞以及解决安全问题。

再次,如果安全基础知识已经掌握,又将如何开展AI安全研究。重点要区分是去公司还是高校,两者存在差异。下面先介绍高校科研的AI安全如何入门:

(1)找准安全方向多阅读论文。在学习过程中,需要看一些方向相关的论文,重点关注顶刊顶会论文。可以先看这个领域的综述,尤其是近三年的ACM computing surveys (CSUR) 综述,如果英文较差可以看看《计算机学报》《软件学报》《计算机研究与发展》的综述,方便我们更快地了解这个领域知识及现有方法和挑战。

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

接着需要多看安全四大顶会(S&P、CCS、NDSS、Usenix Sec)和安全顶刊(TDSC、TIFS)的论文,尤其是近三年相关的论文,部分软工(如ICSE)和AI相关的论文也可以学习。注意,看论文一定要学会总结和做好笔记,这些都是后续科研的相关工作。同时,最好看有开源代码的论文,方便我们复现和比较,以及快速上手。

(2)如何搜索安全论文。俗话说开始研究之前,第一步是需要找到文章,因此,作为初学者我们亟需学会如何搜索安全论文,下面介绍比较实用的安全论文搜索方法。

①安全四大顶会官网

  • https://www.ieee-security.org/TC/SP2023/program-papers.html

  • https://www.sigsac.org/ccs/CCS2024/home.html

  • https://www.ndss-symposium.org/

  • https://www.usenix.org/conference/usenixsecurity24


[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

②DBLP(CCFrank插件):比如搜索恶意软件检测。

[安全问答] 01.AI双非研0如何从事AI安全研究

③谷歌学术(CCFrank插件):比如搜索恶意软件检测。

[安全问答] 01.AI双非研0如何从事AI安全研究

NISL@THU安全顶会论文查询:这是清华大学段老师团队做的安全会议论文查询网站,非常适合大家学习,并且能定位和下载原文,在此感谢。

  • https://secpaper.cn/

[安全问答] 01.AI双非研0如何从事AI安全研究

比如搜索四大顶会的Provenance Graph(溯源图)论文。

[安全问答] 01.AI双非研0如何从事AI安全研究

⑤CCF会议、安全会议论文、AI会议论文投稿截止网站推荐

  • https://sec-deadlines.github.io/

  • AI Conference Deadlines

  • https://ccfddl.github.io/

  • https://ccfddl.top/


[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

⑥arxiv.org查询最新未发表论文

[安全问答] 01.AI双非研0如何从事AI安全研究

⑦中国知网:考虑到部分读者可以会查询中文论文,这里简单推荐下中国知网,包括核心期刊、特定作者、团队等论文查询。

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

PS:其它检索方法欢迎大家补充,包括部分有用插件,当然还有ChatGPT。

(3)结合导师或在先前的工作上开展研究。在做AI安全或科学研究过程中,建议结合先前的安全知识开展工作,除非所学领域非常冷门。怎么入门呢?以恶意代码分析为例,我们通常需要学会逆向工程,如何提取恶意代码的特征、CFG、API(含动静态),后续考虑如何将这些特征转化为向量(Word2Vec、Log2Vec、Attack2Vec)供AI模型学习,并进行有效的语义提取和特征表征增强,更好地实现恶意性识别、家族分类或溯源,AI结合安全的研究大概流程就是这样(样本采集->预处理->特征提取->向量表征->模型构建->优化评估)。当然,关键的问题是威胁模型及创新点的凝练,以及故事和卖点的描述。譬如即使是LLM结合,也会考虑如何利用LLM的理解和推理优势来辅助安全工作的提升。如果实在没有好的项目或方向,那就多看多读,踏实地,从零开始吧!当然也推荐看作者“当人工智能遇到安全”的基础文章和“网络攻防和AI安全之家”知识星球。

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究


(4)建议初学者一方面要学会复现别人的AI安全代码,一定要动手动手,另一方面可以通过简单的案例或数据集进行入门。代表性的包括入侵检测的NSL-KDDKDD CUP 99数据集、Web渗透Github流量数据集、恶意家族分类的微软Kaggle数据集或BODMAS、DataCon用户画像分析数据集等。后续作者会详细整理数据集网址,并开展相关的基础代码分享。网站推荐:BODMAS Malware Dataset和奇安信的DataCon(这个比赛也强烈推荐喔^_^)。

  • https://whyisyoung.github.io/BODMAS/

  • https://datacon.qianxin.com/opendata

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究


(5)学会将安全问题上升到安全现象。关于论文创新点,多关注具体的安全问题,同时好论文未来工作或者存在的难点也是一些启发,当然如果能提出一个新的安全场景会更好,一定要学会从小的安全问题上升到大的威胁场景,构建对应的解决方法,在这个过程中不断进化。

注意,写好安全故事非常重要,多读好论文并摘录好的句子,会对你有很大的帮助。如果你是进入企业,建议结合实际业务看看AI工具如何提升你的现有工作,比如入侵检测的规则,恶意代码特征,Fuzzing漏洞挖掘等。

最后,不论是双非还是其它,都要把基础知识学好,技多不压身。尽量把AI当成一个辅助工具,更好地帮助我们解决实际问题,尤其是科研论文中会看到大量的交叉结合,也多看看别人尤其是大牛或大团队、大厂怎么做,存在什么困难,再深入我们的工作。时光过得很快,希望你能珍惜时间,多实战多学习,更好地提升自己。希望我的建议对你有帮助,后续多多交流,保持联系。祝好,共勉~

最后各位老师和大佬补充!


知识星球

【网络攻防和AI安全之家】计划分享9个专栏的知识,涵盖博客、论文、代码、工具和经验,包括:

  • ①当人工智能遇上安全

  • ②系统安全和恶意代码分析

  • ③求职考研考博简历润色及辅导

  • ④网络安全及web渗透

  • ⑤初学者如何入门安全及学习路线

  • ⑥AI安全写作及代码实战

  • ⑦AI安全论文阅读分享

  • ⑧威胁情报感知及报告翻译

  • ⑨安全知识图谱构建

同时,识星球计划至少每日分享1次安全知识,并且工作日会实时分享安全简讯,以及网络安全、系统安全和AI安全的技术文章、代码及资源。此外,允许读者一对一咨询求职、考研考博相关问题,并帮助读者修改简历和告知相关经验。譬如:

[安全问答] 01.AI双非研0如何从事AI安全研究

系统安全和恶意代码分析主要讲解系统安全、恶意代码分析、软件安全与漏洞挖掘、APT攻击分析、漏洞挖掘、人工智能在系统安全领域应用等知识点,从零到零开始讲解。

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

为什么创建星球

转眼自己已分享13年,也免费分享13年,犹记得每次分享时的快乐,也记得一次次凌晨2点、3点撰写博客、解答读者问题的开心,对读者的帮助就是自己最大的动力。感谢这些年大佬、朋友、博友及读者的支持和点赞。然而,我们终将需要生活,终将家庭,终将有责任。

读博太忙,这么多年没建群没私域,些许后悔,但从现在开始,脚踏实地,用心付出,相信一定有回报,视频号也将开启。行路难,多歧路,生活不易,加油,感谢家人的陪伴!

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

同时,加入星球内容会更加聚焦,质量会更好,能更好地帮助大家,解答大家的问题,我会力争做一个全面且让大家收获的星球。此外,如果不付费,星主本身做这件事情就会失去动力,失去正反馈就再难坚持。如果免费,大部分人也不会珍惜。因此,我会尽力维护好一个不错的社区,以后花更多精力到星球中来。

星球安全专属福利

当您加入【网络攻防和AI安全之家】知识星球后,您将有如下安全专属福利:

  • 添加星主微信,一对一咨询安全、技术、学术和工作相关问题

  • 作为初学者或转专业的同学从零开始学习安全技术,快速上手

  • 开展AI安全研究的读者能结合具体需求编写程序,完成安全相关科研任务,并帮助推荐论文和启发AI安全思路

  • 开展一对一求职、考研、考博咨询,并可以免费修改建议1份,结合星主的经验让大家更好地求职和进入理想的高校

  • 全面分享网络安全和系统安全文章,力争打造全网更系统、基础的入门专栏

  • 实时推送威胁情报和安全技术咨询,每个工作日均会推送,帮助大家更好地了解技术知识

  • 布置安全集训、AI安全集训任务,分享数据集和代码,读者结合自己需求进行练习,真正让你动手开始科研

  • 从零到壹开展“安全知识图谱”构建案例,全面分享安全知识图谱内容

  • 分享和复现顶会顶刊代码,并结合论文与读者交流

真诚地感谢很多读者与我携手走过了这13年,陪伴着我成长。感谢所有人的祝福,博友们的祝福和鼓励真的很感动,是真感动,无以为报,只希望未来分享更好的文章,帮助更多初学者。同时,感谢英雄哥,本文参考了他的文章,以后还要多向他学习,算法放心的强烈推荐关注他。

最后,我叫Eastmount,一个CSDN的技术分享者,感恩遇见!且看且珍惜,共勉。此刻,月光下武汉珞珈山到贵阳景怡苑的那条路不再漫长,继续加油~ 

[安全问答] 01.AI双非研0如何从事AI安全研究

文末扫码加入星球,星球正式运营价格 66,目前限时限量活动价 30。欢迎您的加入~

[安全问答] 01.AI双非研0如何从事AI安全研究

[安全问答] 01.AI双非研0如何从事AI安全研究

(By:Eastmount 2024-06-19 夜于武汉)

原文始发于微信公众号(娜璋AI安全之家):[安全问答] 01.AI双非研0如何从事AI安全研究

版权声明:admin 发表于 2024年6月19日 下午10:33。
转载请注明:[安全问答] 01.AI双非研0如何从事AI安全研究 | CTF导航

相关文章