(三)Datalog和程序分析

 

(三)Datalog和程序分析

上一篇文章:(二)数据流分析基础

下一篇文章:(四)静态单赋值和稀疏分析

前言

笔者在学习 Datalog 之前,已经学习过数据流分析,也学习过一门函数式编程语言,所以能够较为快速地接受新概念。如果读者觉得有些概念比较难以理解,可以搜索关键词学习。

文章引用部分较多中英夹杂,因为没有必要花时间翻译了,我只是在末尾简要用中文提炼我认为的重点,帮助读者理解。笔者没有刻意中英夹杂的意思,提高英文能力对深入最先进的或者较为小领域的知识,是非常重要的。

笔者并没有很扎实的数理逻辑知识,只学过本科计算机专业课离散数学,所以部分概念理解可能不准确。笔者也只是刚入门程序分析,并没有形成整个领域的系统认识,也不了解术语规定。如果发现有任何错误,请不吝斧正。

稳定翻译这篇更加全一些:《Datalog 引擎 Soufflé 指南》

预备知识

逻辑式语言

在之前我们完成了函数式编程 Haskell 的学习之后,开始接触逻辑式编程语言。直接看 wiki 上的介绍:

Logic programming is a programming paradigm which is largely based on formal logic. Any program written in a logic programming language is a set of sentences in logical form, expressing facts and rules about some problem domain. Major logic programming language families include Prolog, answer set programming (ASP) and Datalog. In all of these languages, rules are written in the form of _clauses_:

看起来会和离散数学比较相关,我们这次入手的主要是 Datalog

In ASP and Datalog, logic programs have only a declarative reading, and their execution is performed by means of a proof procedure or model generator whose behaviour is not meant to be controlled by the programmer. However, in the Prolog family of languages, logic programs also have a procedural interpretation as goal-reduction procedures:

其中首先要了解 declarative reading ,declarative programming 没有控制流,只用于描述程序处理特定问题时必须实现的东西,比如 SQL 就是这样的语言。也就是说,datalog 实际上并不是靠程序员控制行为,而是根据命题公式去执行。但是 Prolog 也存在 Procedural programming 范式的过程调用,类似于 C 语言中的函数或者子程序,把一个问题拆分成多个小问题。

The declarative reading of logic programs can be used by a programmer to verify their correctness. Moreover, logic-based program transformation techniques can also be used to transform logic programs into logically equivalent programs that are more efficient.

因此,datalog 这种形式逻辑定义的语言,就很合适用于判断程序的执行是否和期望一致,并 datalog 还支持编译成等价的程序,提高性能。

以上涉及到一些数理逻辑术语,可以查看附录一。

Datalog

wiki 介绍:

It is often used as a query language for deductive databases. In recent years, Datalog has found new application in data integration, information extraction, networking, program analysis, security, cloud computing and machine learning.[1][2]

特点:

  1. statements of a Datalog program can be stated in any order.
  2. Datalog queries on finite sets are guaranteed to terminate. This makes Datalog a fully declarative language.
  3. disallows complex terms as arguments of predicates, e.g., p(1, 2) is admissible but not p(f(1), 2)
  4. imposes certain stratification restrictions on the use of negation and recursion. 谓词上的环状依赖不能包含否定规则,简单的说,不管如何推理,不能最终出现 ¬P→P,这样矛盾的形式。
  5. requires that every variable that appears in the head of a clause also appear in a nonarithmetic positive (i.e. not negated) literal in the body of the clause。这需要了解逻辑式语言的一般形式,可以见 wiki 最开头的说明。目的就是避免无意义的永真或者永假,或者真值无法通过给出的变量确定的情况。
  6. requires that every variable appearing in a negative literal in the body of a clause also appear in some positive literal in the body of the clause[5](暂时不懂为啥这么定义)
  7. Query evaluation with Datalog is based on first-order logic, and is thus sound and complete. 先解释 first-oder logic,中文叫做一阶逻辑或者谓词逻辑。sound 指上近似,程序分析术语,大致意思是按照规则筛选,那么结果一定是复合预期的。complete 指符合规则的一定会被全部筛选出来。
  8. Datalog is not Turing complete, and is thus used as a domain-specific language that can take advantage of efficient algorithms developed for query resolution.
  9. Solving the boundedness problem on arbitrary Datalog programs is undecidable,[10] but it can be made decidable by restricting to some fragments of Datalog. 不可判定性的处理,这里 fragment of a logical language or theory is a subset of this logical language obtained by imposing syntactical restrictions on the language.

一个来自 wiki 的例子可以介绍基本的用法和思想:

逻辑式语言例子

These two lines define two facts, i.e. things that always hold:

1
2
parent(xerces, brooke).
parent(brooke, damocles).

This is what they mean: xerces is a parent of brooke and brooke is a parent of damocles. The names are written in lowercase because strings beginning with an uppercase letter stand for variables.

These two lines define rules, which define how new facts can be inferred from known facts.

1
2
ancestor(X, Y) :- parent(X, Y).
ancestor(X, Y) :- parent(X, Z), ancestor(Z, Y).

meaning:

  • X is an ancestor of Y if X is a parent of Y.
  • X is an ancestor of Y if X is a parent of some Z, and Z is an ancestor of Y.

This line is a query:

1
?- ancestor(xerces, X).

It asks the following: Who are all the X that xerces is an ancestor of? It would return brooke and damocles when posed against a Datalog system containing the facts and rules described above.

souffle

介绍

开始正式的学习吧,来看看特性

Soufflé is a logic programming language inspired by Datalog. It overcomes some of the limitations in classical Datalog. For example, programmers are not restricted to finite domains, and the usage of functors (intrinsic, user-defined, records/constructors, etc.) is permitted.

One of the major challenges in logic programming is performance and scalability. Soufflé applies advanced compilation techniques for logic programs. We use a range of techniques to achieve high-performance.

declarative rules are efficiently translated to efficient C++ programs on modern computer hardware, including multi-core computers

支持非有限域(关于有限域可以学习近世代数),而且允许过程调用,不要求完全都是声明式。(如果您对这些概念陌生,可以仔细阅读预备知识或者相关 wiki)

用途:

Soufflé was initially designed for crafting static analysis in logic at Oracle Labs. Since then, there have been many other applications written in the Soufflé language, including applications in reverse engineering, network analysis and data analytics.

使用了 souffle 的项目:(可以有一定基础后观摩学习):

Soufflé provides the ability to rapid prototype and make deep design space explorations possible. A wide range of applications have been implemented in the Soufflé language, e.g., static program analysis for Java DOOP, parallelizing compiler framework Insieme, binary disassembler DDISASM, security analysis for cloud computing, and security analysis for smart contracts Gigahorse, Securify, Secuify V2.0, VANDAL. More applications are listed here.

安装

没有看到 windows 版本的直接安装的办法,只能从源码构建,但是比较容易出问题,并且新手难以解决。所以建议使用 linux 系统。按照教程即可。

基础使用

程序示例

以下内容来自官网,表达了传递闭包。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
// example.dl

// 声明,edge是关系,可以理解为一阶逻辑里的二元关系
.decl edge(x:number, y:number)
//表示从文件读取
.input edge

//声明,path也可以理解成二元关系
.decl path(x:number, y:number)
//表示会写入磁盘
.output path

//这就是一般的 H if B1 B2 B3的形式,表示(B1 B2 B3)蕴含H
//这里是如果存在边x到有的边,那么就存在x到y的路径。
//即满足于关系path(x,y),当且仅当满足edge(x, y)或者path(x, z), edge(z, y)
//注意定义联系的时候都会有点结尾。
path(x, y) :- edge(x, y).
path(x, y) :- path(x, z), edge(z, y).

定义输入

1
2
3
4
//edge.facts
//将会从这个文件读取,facts是无论如何为真的命题公式
1	2
2	3

详细的命令可以输入 souffle --help 查看。运行之后可以得到输出

1
souffle -F. -D. example.dl

但是可能得到的是压缩包,也可能不是:

1
2
3
(base) ➜  souffle_test souffle -F . -D . example.dl
(base) ➜  souffle_test ls
edge.facts  example.dl  path.csv.gz

还需要解压缩就可以查看内容

1
2
3
(base) ➜  souffle_test gzip -d path.csv.gz
(base) ➜  souffle_test ls
edge.facts  example.dl  path.csv

一般情况,可以直接标准输出,即输出的文件夹设置为 -,在控制台打印

1
2
3
4
5
6
7
8
9
(base) ➜  introduction souffle example.dl -D -
---------------
path
x       y
===============
1       2
1       3
2       3
===============

编译

之前是直接以解释器(Interpreter)运行,虽然不需要编译时间,但是效率可能不是很高。可以编译成 C++后运行。souffle -F . -D . -o example example.dl 之后就会生成 cpp 源码和二进制的 cpp 文件。可执行文件也有 help 选项。

-c 的功能和 -o 类似,差别在于 -c 会在编译之后,立刻执行程序。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
(base) ➜  souffle_test ./example --help
./example: unrecognized option '--help'
====================================================================
 Datalog Program: example.dl
 Usage: ./example [OPTION]

 Options:
    -D <DIR>, --output=<DIR>     -- Specify directory for output relations
                                    (default: )
                                    (suppress output with "")
    -F <DIR>, --facts=<DIR>      -- Specify directory for fact files
                                    (default: )
    -j <NUM>, --jobs=<NUM>       -- Specify number of threads
                                    (default: 1)
    -h                           -- prints this help page.
--------------------------------------------------------------------
 Copyright (c) 2016-22 The Souffle Developers.
 Copyright (c) 2013-16 Oracle and/or its affiliates.
 All rights reserved.
====================================================================

调试和日志分析

生成 html 调试日志 souffle -F . -D . -r example.html example.dl,有非常详细的分析报告。

也可以简要生成日志,然后用附带的专门的分析工具 souffleprof 分析性能.

1
2
(base) ➜  souffle_test souffle -F . -D . -p example.log example.dl
(base) ➜  souffle_test souffleprof example.log

其他功能

所有的选项如下表,还是挺丰富的。一些高阶选项后面会接触,大家可以现在都看一遍。

(三)Datalog和程序分析

语法

先看一般的介绍:

Facts are just atomic formulas, rules are atomic formulas followed by a condition — one or more atomic formulas conjoined. Explicit disjunctions are not needed. A question consists of one or more atomic formulas conjoined.

Atomic formulas consist of a predicate, optionally followed by a parenthesised list of one or more parameters separated by commas.

Parameters are individual constants — now called names, starting with a lowercase letter, or they are individual variables — or just variables, starting with an uppercase letter. Names have their obvious meaning, whereas variables are either quantified — in facts and rules, or they are to be bound in queries.

请注意用于数据库查询的 datalog 和用于程序分析的 datalog 有一些差别。数据库查询的方面,有个不错的博客

There is no unified standard for the specification of Datalog syntax. Thus, each implementation of Datalog may differ. A principle goal of the Soufflé project is speed, tailoring program execution to multi-core servers with large amounts of memory.

文件名一般是 <program.dl>语句并不是顺序执行,程序的整个组成部分如下,有个大致印象即可:

(三)Datalog和程序分析

注释

注释的格式和 C 语言完全一致。// 或者是 /**/

数据类型

静态类型系统。只有四类基础类型,symbols 相当于字符串,number 是数字。unsignedfloat 用的较少。

number可以是 10 进制,2 进制,16 进制。

1
2
3
4
.decl A(x:number)
A(4711).
A(0b101).
A(0xaffe).

IO

facts 可以直接写在程序里,也可以通过 .input 从文件读取,默认的间隔用 TAB,输入的文件名字必须和 .decl 名字相同,而且后缀是 .fact

一阶逻辑

:- 是逻辑推导的符号,表示 .decl 定义的关系之间的联系,而且定义方式相当自由,允许递归等形式,但是不能是互相矛盾的式子。

数据结构

一般默认关系的数组结构是自然平衡树 btree,也可以强制地显式指定

1
.decl A(x:number, y:symbol) btree

另外也存在特殊地用于数据密集型地数据结构 Brie,这是一种特殊的 Trie,默认读者熟悉前缀树。

1
.decl A(x:number, y:symbol) brie

等价关系

默认读者熟悉等价关系,可见 wiki。等价关系非常常用,所以加了特殊的关键字 eqrel,下面给两个程序是等价的:

1
2
.decl eqrel_fast(x : number, y : number) eqrel
eqrel_fast(a,b) :- rel1(a), rel2(b).

1
2
3
4
5
6
.decl equivalence(x:number, y:number)
equivalence(a, b) :- rel1(a), rel2(b).      // every element of rel1 is equivalent to every element of rel2

equivalence(a, a) :- equivalence(a, _).     // reflexivity
equivalence(a, b) :- equivalence(b, a).     // symmetry
equivalence(a, c) :- equivalence(a, b), equivalence(b, c).  // transitivity

inline

和 C 语言类似,inline 将会在评估的时候直接展开,而不是单独的存储数据。

1
2
3
4
5
6
7
8
9
.decl natural_number(x:number)
natural_number(0).
natural_number(x+1) :- natural_number(x), x < 10000.

.decl natural_pairs(x:number, y:number) inline
natural_pairs(x,y) :- natural_number(x), natural_number(y).

.decl query(x:number)
query(x) :- natural_pairs(x,y), x < 5, y < x.

相当于下面的

1
2
3
4
5
6
.decl natural_number(x:number)
natural_number(0).
natural_number(x+1) :- natural_number(x), x < 10000.

.decl query(x:number)
query(x) :- natural_number(x), natural_number(y), x < 5, y < x.

这样子会避免计算并且存储大量的 natural_pairs。但是可以知道,这必然会带来一定用法上的限制,我们暂时略过。

析取

一般来说,Datalog 都是采取合取,但是也支持析取的语法。也就是 yong ; 而不是 , 间隔。

例如,假设对于是否能进入房子分成三类人,HousemateOwner 可以进入,但是 Stranger 不可以。就可以得到下面的程序。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
.type Owner <: symbol
.type Housemate <: symbol
.type Building <: symbol
.type Stranger <: symbol

.type Human = Housemate|Owner|Stranger

.decl IsHousemate(x:Housemate,y:Building)
.decl IsOwner(x:Owner,y:Building)
.decl IsStranger(x:Stranger,y:Building)

IsHousemate("Bob","partment123").
IsOwner("Alice","partment123").
IsStranger("Eric","partment123").

.decl accessable(x:Human,y:Building)
.output accessable
accessable(x,y) :- IsHousemate(x,y);IsOwner(x,y),!IsStranger(x,y).

算术表达式

souffle 做了一定的函子拓展,支持部分内置算术表达式。例如,可以在推导时加上条件

1
2
3
4
.decl A(n: number)
.output A
A(1).
A(x+1) :- A(x), x < 9.

算术操作

  • Addition: x + y
  • Subtraction: x - y
  • Division: x / y
  • Multiplication: x * y
  • Modulo: a % b
  • Power: a ^ b
  • Counter: autoinc()
  • Bit operations: x band y, x bor y, x bxor y, and bnot x
  • Logical operations: x land y, x lor y, and lnot x

算术比较

The following arithmetic constraints are allowed in Soufflé:

  • Less than: a < b
  • Less than or equal to: a <= b
  • Equal to: a = b
  • Not equal to: a != b
  • Greater than or equal to: a >= b
  • Greater than: a > b

内置函子

比较特殊的是,autonic() 函子,相当于创建随机数。

ord() 会生成此程序中这个 symbol 类型的序号,比如 a 的序号应该小于 b

还有一些聚合函数,聚合函数的概念在数据库中应该学习过,就是一个集合中提取出来一个信息。

cout: 统计满足条件的 fact 个数,基本语法是 count:{集合与条件}

1
2
3
4
5
6
7
8
.decl Car(name: symbol, colour:symbol)
Car("Audi", "blue").
Car("VW", "red").
Car("BMW", "blue").

.decl BlueCarCount(x: number)
BlueCarCount(c) :- c = count:{Car(x,"blue"),ord(x)>ord("Audi")}.
.output BlueCarCount

max: 很好理解,注意还要制定选择哪一个变量。

min: 和 max 用法完全相同。

sum: 也需要指定变量。

三者的用法见程序:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
.decl A(n:number, w:symbol)
A(1, "a"). A(10, "b"). A(100, "c").

.decl MaxA(x: number,w:symbol)
.output MaxA
MaxA(y, w) :- y = max x:{A(x, w)}.

.decl MinA(x: number,w:symbol)
.output MinA
MinA(y, w) :- y = min x:{A(x, w)}.

.decl Sum(s:number)
.output Sum
Sum(s) :- s = sum x:{A(x,_)}.

得到的输出如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
(base) ➜  exp1 souffle max-min-sum.dl -D -
---------------
MaxA
x       w
===============
100     c
===============
---------------
MinA
x       w
===============
1       a
===============
---------------
Sum
s
===============
111
===============

contains(string1, string2) : string2 是否包含 string1

match: 含有通配符的匹配,但是文档里没有说明有哪些通配符,读者暂时只记住下面的例子即可。

1
2
3
4
5
6
7
8
.decl inputData(t:symbol)
.decl outputData(t:symbol)
.output outputData
outputData(x) :- inputData(x), match("a.*",x).
inputData("aaaa").
inputData("abba").
inputData("bcab").
inputData("bdab").

自定义数据类型

基本语法

主要类似结构体,这虽然会影响性能,但是拓展了可用性。基本语法如下:

1
.type <name> = [ <name_1>: <type_1>, ..., <name_k>: <type_k> ]

看下面的例子

1
2
3
4
5
6
7
8
9
10
11
12
13
// Pair of numbers
.type Pair = [a:number, b:number]

.decl A(p: Pair)  // declare a set of pairs
A([1,2]).
A([3,4]).
A([4,5]).

.output A

// 扁平化
.decl Flatten(a:number, b:number) output
Flatten(a,b) :- A([a,b]).

也可以定义类型别名

1
.type myNumber = number

特殊地,还存在子类型,每个子类型都是原来类型地严格子集。

1
2
3
.type EvenNumber <: number
.type OddNumber <: number
.type MultiplesOfFour <: myEvenNumber

为什么要存在子类型呢,因为这样可取区分不同的类型,比如 EvenNumberOddNumber 就区分开了,在大型的项目中有利于减少错误。

实际的存储方式其实是通过记录 p 然后映射

(三)Datalog和程序分析

Union 类型

这类似于模式匹配,或者说 C 语言的联合体。具体语法:

1
.type <ident> = <ident-1> | <ident-2> | ... | <ident-k>

例如地点可以分成多种类型

1
2
3
4
.type City <: symbol
.type Town <: symbol
.type Village <: symbol
.type Place = City | Town | Village

定义的时候,需要注意,所有类别都应该是同一种基础类型,比如上面的 CityTownVillage 都是基础类型symbol 的子集。

前面提到了子类型,那么就要注意类型的默认转换规则,子类型或者同样的类型,才可以赋值,比如 B=>A 中,A 中 x 的参数类型必须包含 A 中 x 的类型,才可以给 A 赋值。

1
2
3
4
5
.type even = number
.type odd = number
.decl A(x:even)
.decl B(x:odd)
A(X) :- B(X).

如果是这样就会报错.

1
2
3
4
5
6
7
8
.type even <: number
.type odd <: number
.decl A(x:even)

.decl B(x:odd)
.output A
B(1). B(3).
A(X) :- B(X).

类型转换,但是 as(<expr>, <new-type>) 可以进行类型转换。

1
2
3
4
5
6
7
8
.type even <: number
.type odd <: number
.decl A(x:even)

.decl B(x:number)
.output A
B(1). B(3).
A(as(X,even)) :-  B(X).

代数数据类型

他就更加类似模式匹配了,如果模式匹配不熟悉,可以稍微了解 Haskell,博客中也有所涉及。基本语法:

1
.type <new-adt> = <branch-id> { <name_1>: <type_1>, ..., <name_k>: <type_k> } | ...

例如,不同的代数数据类型,甚至可以表示简单的数的操作,逐渐有其他语言中 class 类型的味道。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
.type T = A { x: number }
        | B { x: symbol }

.type Nat = S {x : Nat}
          | Zero {}

.type Expression = Number { x : number }
                 | Variable { v : symbol}
                 | Add {e_1 : Expression, e_2 :Expression}
                 | Minus {e_1 : Expression, e_2 : Expression}
                 | Mult {e_1 : Expression, e_2 : Expression}
                 | Divide {e_1 : Expression, e_2 : Expression}

.type Tree = Empty {}
           | Node {t1: Tree, val: unsigned, t2: Tree}

上面 使用的是 Empty 表示空,因为不能够出现 nil

使用的时候,采用这样的格式 $branch_constructor(args...) 指定选择哪一个分支。每个分支的名字在整个程序的范围内,都必须不能重复。

1
2
3
4
5
6
7
8
9
10
11
12
.type Expression = Number { x : number }
                 | Variable { v : symbol}
                 | Add {e_1 : Expression, e_2 :Expression}
                 | Imaginary {}

.decl A(x:Expression)
A($Number(10)).
A($Add($Number(10),$Imaginary())).
A($Add($Number(10), $Variable("x"))).
A($Number(x+1)) :- A($Number(x)), x < 20.

.output A

结果如下

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
(base) ➜  exp1 souffle test.dl -D -
---------------
A
x
===============
$Number(10)
$Add($Number(10), $Imaginary)
$Add($Number(10), $Variable(x))
$Number(11)
$Number(12)
$Number(13)
$Number(14)
$Number(15)
$Number(16)
$Number(17)
$Number(18)
$Number(19)
$Number(20)
===============

递归类型

既然可以使用结构体了,那么就看看能不能支持递归,比如链表和二叉树可以视作是递归类型,但是由于命令式编程语言一切都可以用内存去理解,所以往往不会那么直接的视作递归类型。

例如下面的代码,核心看递归的层面,满足 L 的 fact r1,且 r1 中的 x 小于 30,那么就存在新的 L 的 factL([r1,x+10])。这里需要注意,r2 可能并不是一层,可能是嵌套的 IntList 类型。

最后,Flatten 把每一个 IntList 中的 x 提取出来。上面提到了 p=>Pair 的映射,所以根据编号,也是有顺序的。

特别注意, nil 类型,用于递归类型最初始的情况。

1
2
3
4
5
6
7
8
9
.type IntList = [next: IntList, x: number]
.decl L(l: IntList)
L([nil,10]).
L([r1,x+10]) :- L(r1), r1=[r2,x], x < 30.

.output  L
.decl Flatten(x: number)
Flatten(x) :- L([_,x]).
.output Flatten

来看结果:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
(base) ➜  exp1 souffle list.dl -D -
Warning: Variable r2 only occurs once in file list.dl at line 4
L([r1,x+10]) :- L(r1), r1=[r2,x], x < 30.
---------------------------^--------------
---------------
L
l
===============
[nil, 10]
[[nil, 10], 20]
[[[nil, 10], 20], 30]
===============
---------------
Flatten
x
===============
10
20
30
===============

更多的语法知识,可以查看官方文档的语法部分高级主题部分。笔者将会逐渐深入学习理论,然后开始进行实际智能合约的分析,后续会逐渐完善这个系列。

应用实例

传递闭包和对称

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
.decl edge(n: symbol, m: symbol)
 /* facts of edge */
edge("a", "b").
edge("b", "c").
edge("c", "b").
edge("c", "d").
/*relations*/
.decl reachable (n: symbol, m: symbol)
.output reachable // output relation reachable
reachable(x, y):- edge(x, y). // base rule
reachable(x, z):- edge(x, y), reachable(y, z). // inductive rule

// 对称
.decl SCC(n:symbol,m:symbol)
.output SCC
SCC(x,y) :- reachable(x,y), reachable(y,x).

输出结果如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
(base) ➜  exp1 souffle test.dl -D -
---------------
reachable
n       m
===============
a       b
a       c
a       d
b       b
b       c
b       d
c       b
c       c
c       d
===============
---------------
SCC
n       m
===============
b       b
b       c
c       b
c       c
===============

寻找深度相同节点

对于一颗树,寻找深度相同的节点。

(三)Datalog和程序分析

1
2
3
4
5
6
7
8
9
10
11
.decl Parent(n: symbol, m: symbol)
Parent("d", "b"). Parent("e", "b"). Parent("f","c").
Parent("g", "c"). Parent("b", "a"). Parent("c","a").
.decl Person(n: symbol)
Person(x) :- Parent(x, _).
Person(x) :- Parent(_, x).
.decl SameGeneration (n: symbol, m: symbol)
SameGeneration(x, x):- Person(x).
// 关键在于下面的逻辑推导,如果x,y是同级别的,那么它们的父节点也是同级别的
SameGeneration(x, y):- Parent(x,p), SameGeneration(p,q), Parent(y,q).
.output SameGeneration

可以发现,推导是允许递归的。

数据流分析

data-flow analysis(DFA),数据流分析基于控制流图,是比较典型的用节点和图表示程序运行过程的分析方法。具体可以见博客的软件分析部分。

这下面是一个可达性分析(也被叫做 liveness 分析,笔者不是很清楚其中区别),可以理解为一个带着分支的循环,d1 和 d2 都定义了变量 v,然后 B3 节点可达的变量 v 一定是在 B4 节点中的 d2。

(三)Datalog和程序分析

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
// define control flow graph
// via the Edge relation
.decl Edge(n: symbol, m: symbol)
Edge("start", "b1").
Edge("b1", "b2").
Edge("b1", "b3").
Edge("b2", "b4").
Edge("b3", "b4").
Edge("b4", "b1").
Edge("b4", "end").

// 重新定义变量v的节点和声明编号
.decl GenDef(n: symbol, d:symbol)
GenDef("b2", "d1").
GenDef("b4", "d2").

// 可以删除对之前的引用,比如b4节点可以删除之前的d1定义的变量v
.decl KillDef(n: symbol, d:symbol)
KillDef("b4", "d1").
KillDef("b2", "d2").

// Reachable
.decl Reachable(n: symbol, d:symbol)
Reachable(u,d) :- GenDef(u,d). // 定义变量的节点必然是可达的
// 当存在节点 u 可以到达v,而且u也是可到达v的,u不会覆盖或者删除对定义d的引用
Reachable(v,d) :- Edge(u,v), Reachable(u,d), !KillDef(u,d).

.output Reachable

这样,就清楚在每一个节点,某一个变量来自于哪一个定义了。这里必须补充一下,变量并不是和变量名绑定,而是说对应的内存中的对象,如果修改了内存,就是新的对象了,也可以称作是定义。可达性分析可以知道当前语句中的某个变量,来自于哪一个定义的地方。

1
2
3
4
5
6
7
8
9
10
11
12
13
(base) ➜  exp1 souffle DFA.dl -D -
---------------
Reachable
n       d
===============
b1      d2
b2      d1
b2      d2
b3      d2
b4      d1
b4      d2
end     d2
===============

偏序关系

Given a set A(x:symbol), create a successor relation Succ(x:symbol, y:symbol) such that the first argument contains an element x in A, and the second argument contains the successor of x, which is also an element of A. For example, the set A = {"a", "b", "c", "d"} would have successor relation Succ=(("a", "b"), ("b", "c"), ("c", "d")}. Assume that the total order of an element (a symbol in this case) is given by its ordinal number, its internal representation as a number. For example, ord("hello") returns the ordinal number of string "hello" for a given program.

题目来自 souffle 官方教程,默认读者已经熟悉前驱、后继关系,其实相当于偏序关系中的大于和小于,但是更加一般化和理论化了。讲解见注释。

更加进一步,我们再去找到最大和最小的元素。可以这样表示最大值,记

P:x⩽a

,则

 

 

是最大值(∀x)P(x),A(x),A(a)→a是最大值

 

但是 Datalog 只有存在量词。根据摩根律推广:

(三)Datalog和程序分析

原来的推导等价于下面的 E2:

 

是最大值E1(x):(∃x)(x>a),A(x),A(a)E2(x):¬E1(x),A(x)→a是最大值

 

最小值同理也可得。

感谢这一篇博客帮助我我快速地解决了问题。

所有定义必须大写字母开头

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
// 定义集合 A, 从文件输入 facts/
.decl A(x:symbol)
.input A
// 定义偏序小于,比如字母表顺序 'a'<'b',那么就可以将 symbol 用 ord() 转换成次序。
.decl Less(x:symbol, y:symbol)
Less(x,y) :- A(x), A(y), ord(x) < ord(y).

// 传递性
.decl Transitive(x:symbol, y:symbol)
Transitive(x,z) :- Less(x,y), Less(y,z).

// x 后继y,需要满足 y 直接小于 x,而不能传递小于 x
.decl Succ(x:symbol, y:symbol)
Succ(x,y) :- Less(x,y), !Transitive(x,y).

//最大元素
.decl Nmax(x:symbol)
Nmax(x) :- Less(x,u),A(x),A(u).

.decl Max(x:symbol)
Max(x) :- !Nmax(x),A(x).
.output Max

.decl Nmin(x:symbol)
Nmin(x) :- Less(u,x),A(x),A(u).

.decl Min(x:symbol)
Min(x) :- !Nmin(x),A(x).
.output Min

.output Less, Transitive, Succ

给定输入的数据 A.facts,注意一个 fact 一行,然后每个 fact 不同的参数用 TAB,不过这里只有一个参数。

1
2
3
4
5
a
b
c
d
e

结果如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
(base) ➜  successor souffle successor-relation.dl -F . -D -
---------------
Less
x       y
===============
a       b
a       c
a       d
a       e
b       c
b       d
b       e
c       d
c       e
d       e
===============
---------------
Max
x
===============
e
===============
---------------
Min
x
===============
a
===============
---------------
Transitive
x       y
===============
a       c
a       d
a       e
b       d
b       e
c       e
===============
---------------
Succ
x       y
===============
a       b
b       c
c       d
d       e
===============

简单指针分析和别名分析

指针分析和别名分析(aliases)有很多相似之处,但是指针分析并不等于别名分析,二者区别如下:

  • 指针分析解答的是一个指针可能指向哪个对象的问题
  • 别名分析解答的是两个指针是否能指向同一个对象的问题,如果是就认为二者互为别名。

注意,下面的分析都是 may 分析,只是说 可能 指向同一个对象。

需要分析的代码片段如下

1
2
3
4
5
6
7
v1 = h1();
v2 = h2();
v1 = v2;
v3 = h3();
v1.f = v3;
v4 = v1.f;

详细解释见代码注释,代码执行顺序有非对称的关系就可以了,简单说就是有向图。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
.type var <: symbol
.type obj <: symbol
.type field <: symbol

// -- inputs --
.decl assign( a:var, b:var )
.decl new( v:var, o:obj )
.decl ld( a:var, b:var, f:field )
.decl st( a:var, f:field, b:var )


// -- facts --
// 赋值
assign("v1","v2").
// 新建变量
new("v1","h1").
new("v2","h2").
new("v3","h3").
// st 表示变量的某个域(比如结构体里面的元素)被另外一个变量赋值了
// ld 表示变量被另外一个变量的某个域赋值了
st("v1","f","v3").
ld("v4","v1","f").


// -- analysis --
// 别名分析
.decl alias( a:var, b:var )
.output alias
// 如果直接赋值,那么就是别名
alias(X,X) :- assign(X,_).
alias(X,X) :- assign(_,X).
alias(X,Y) :- assign(X,Y).
// 如果 x=A.F 而 A 和 B 可以指向同样的变量,B.F = Y,那么 X,Y 也是别名
alias(X,Y) :- ld(X,A,F), alias(A,B), st(B,F,Y).

.decl pointsTo( a:var, o:obj )
.output pointsTo
// 直接新建对象,当然是别名
pointsTo(X,Y) :- new(X,Y).
// 或者 X 和 Z指向同一个变量,而Z指向对象Y,那么X也指向变量Y
pointsTo(X,Y) :- alias(X,Z), pointsTo(Z,Y).

更多的例子见:https://souffle-lang.github.io/examples#defuse-chains-with-composed-types

笔者以应用为主,当学习到对应的部分,就会实现对应的代码。接下来继续学习理论。

参考

  • https://souffle-lang.github.io/docs.html
  • http://nickelsworth.github.io/sympas/16-datalog.html
  • https://qa.1r1g.com/sf/ask/1353816481/
  • Datalog and Recursive Query Processing 建议当作工具书去查,除非你要深入研究 datalog

附录一数理逻辑定义

  1. literal: 原子公式 x 或者是原子公式的否定式 ¬x
  2. clause: 有限的 literal 和逻辑连接词构成的命题公式。
  3. facts:绝对成立的命题。
  4. monotonic:因为蕴含而保持“单调的”
  5. sequent calculi :根据单调关系推导
  6. Non-monotonic logic:非单调逻辑,简单地说结论不是蕴含关系。
  7. words: 也叫做 string,也就是一系列的字符。
  8. letters: 也叫做 symbol,非常基础的东西,可以理解为符号。
  9. formal language: 由 words 构成的规则集合,words 由 letters 构成,letters 从给定的字符集中选取。
  10. Well-formed formula: 形式语言字符集中的字符以特定规则构成的有限的命题公式。缩写 WFF。
  11. sentence: 无自由变量的 WFF。
  12. Stratification

更多的东西属于数学的范围了,笔者暂时不会深入,因为主要是先用起来再说。

原文始发于learner L:(三)Datalog和程序分析

版权声明:admin 发表于 2022年12月9日 上午10:06。
转载请注明:(三)Datalog和程序分析 | CTF导航

相关文章

暂无评论

暂无评论...