Python实现解释器的方法是什么,具体步骤是怎样
Admin 2022-09-27 群英技术资讯 384 次浏览
在本文中,我们将设计一个可以执行算术运算的解释器。
我们不会重新造轮子。文章将使用由 David M. Beazley 开发的词法解析器 ——PLY(Python Lex-Yacc(https://github.com/dabeaz/ply))
。
PLY 可以通过以下方式下载:
$ pip install ply
我们将粗略地浏览一下创建解释器所需的基础知识。欲了解更多,请参阅这个 GitHub
仓库(https://github.com/dabeaz/ply)
。
标记是为解释器提供有意义信息的最小字符单位。标记包含一对名称和属性值。
让我们从创建标记名称列表开始。这是一个必要的步骤。
tokens = ( # 数据类型 "NUM", "FLOAT", # 算术运算 "PLUS", "MINUS", "MUL", "DIV", # 括号 "LPAREN", "RPAREN", )
将语句转换为标记的过程称为标记化或词法分析。执行词法分析的程序是词法分析器。
# 标记的正则表达 t_PLUS = r"\+" t_MINUS = r"\-" t_MUL = r"\*" t_DIV = r"/" t_LPAREN = r"\(" t_RPAREN = r"\)" t_POW = r"\^" # 忽略空格和制表符 t_ignore = " \t" # 为每个规则添加动作 def t_FLOAT(t): r"""\d+\.\d+""" t.value = float(t.value) return t def t_NUM(t): r"""\d+""" t.value = int(t.value) return t # 未定义规则字符的错误处理 def t_error(t): # 此处的 t.value 包含未标记的其余输入 print(f"keyword not found: {t.value[0]}\nline {t.lineno}") t.lexer.skip(1) # 如果遇到 \n 则将其设为新的一行 def t_newline(t): r"""\n+""" t.lexer.lineno += t.value.count("\n")
为导入词法分析器,我们将使用:
import ply.lex as lex
t_
是一个特殊的前缀,表示定义标记的规则。每条词法规则都是用正则表达式制作的,与 Python
中的 re
模块兼容。正则表达式能够根据规则扫描输入并搜索符合的符号串。正则表达式定义的文法称为正则文法。正则文法定义的语言则称为正则语言。
定义好了规则,我们将构建词法分析器:
data = 'a = 2 +(10 -8)/1.0' lexlexer = lex.lex() lexer.input(data) while tok := lexer.token(): print(tok)
为了传递输入字符串,我们使用lexer.input(data)
。lexer.token()
将返回下一个 LexToken
实例,最后返回 None。根据上述规则,代码 2 + ( 10 -8)/1.0 的标记将是:
紫色字符代表的是标记的名称,其后是标记的具体内容。
大多数编程语言都可以用上下文无关文法来编写。它比常规语言更复杂。对于上下文无关文法,我们用上下文无关语法,它是描述语言中所有可能语法的规则集。BNF
是一种定义语法的方式,它描述了编程语言的语法。
让我们看看例子:
symbol : alternative1 | alternative2 …
根据产生式,: 的左侧被替换为右侧的其中一个值替换。右侧的值由 | 分隔(可理解为 symbol
定义为 alternative1
或 alternative2
或…… 等等)。
对于我们的这个算术解释器,语法规格如下:
expression : expression '+' expression | expression '-' expression | expression '/' expression | expression '*' expression | expression '^' expression | +expression | -expression | ( expression ) | NUM | FLOAT
输入的标记是诸如 NUM
、FLOAT
、+、-、*、/ 之类的符号,称作终端(无法继续分解或产生其他符号的字符)。一个表达式由终端和规则集组成,例如 expression
则称为非终端。
我们将使用 YACC(Yet Another Compiler Compiler) 作为解析器生成器。导入模块:import ply.yacc as yacc
。
from operator import (add, sub, mul, truediv, pow) # 我们的解释器支持的运算符列表 ops = { "+": add, "-": sub, "*": mul, "/": truediv, "^": pow, } def p_expression(p): """expression : expression PLUS expression | expression MINUS expression | expression DIV expression | expression MUL expression | expression POW expression""" if (p[2], p[3]) == ("/", 0): # 如果除以 0,则将“INF”(无限)作为值 p[0] = float("INF") else: p[0] = ops[p[2]](p[1], p[3]) def p_expression_uplus_or_expr(p): """expression : PLUS expression %prec UPLUS | LPAREN expression RPAREN""" p[0] = p[2] def p_expression_uminus(p): """expression : MINUS expression %prec UMINUS""" p[0] = -p[2] def p_expression_num(p): """expression : NUM | FLOAT""" p[0] = p[1] # 语法错误时的规则 def p_error(p): print(f"Syntax error in {p.value}")
在文档字符串中,我们将添加适当的语法规范。p 列表中的的元素与语法符号一一对应,如下所示:
expression : expression PLUS expression p[0] p[1] p[2] p[3]
在上文中,%prec UPLUS
和 %prec UMINUS
是用来表示自定义运算的。%prec
即是 precedence
的缩写。在符号中本来没有 UPLUS 和 UMINUS 这个说法(在本文中这两个自定义运算表示一元正号和符号,其实 UPLUS 和 UMINUS 只是个名字,想取什么就取什么)。之后,我们可以添加基于表达式的规则。YACC 允许为每个令牌分配优先级。
我们可以使用以下方法设置它:
precedence = ( ("left", "PLUS", "MINUS"), ("left", "MUL", "DIV"), ("left", "POW"), ("right", "UPLUS", "UMINUS") )
在优先级声明中,标记按优先级从低到高的顺序排列。PLUS
和 MINUS
优先级相同并且具有左结合性(运算从左至右执行)。MUL
和 DIV
的优先级高于 PLUS 和 MINUS,也具有左结合性。POW 亦是如此,不过优先级更高。UPLUS 和 UMINUS 则是具有右结合性(运算从右至左执行)。
要解析输入我们将使用:
parser = yacc.yacc() result = parser.parse(data) print(result)
完整代码如下:
##################################### # 引入模块 # ##################################### from logging import (basicConfig, INFO, getLogger) from operator import (add, sub, mul, truediv, pow) import ply.lex as lex import ply.yacc as yacc # 我们的解释器支持的运算符列表 ops = { "+": add, "-": sub, "*": mul, "/": truediv, "^": pow, } ##################################### # 标记集 # ##################################### tokens = ( # 数据类型 "NUM", "FLOAT", # 算术运算 "PLUS", "MINUS", "MUL", "DIV", "POW", # 括号 "LPAREN", "RPAREN", ) ##################################### # 标记的正则表达式 # ##################################### t_PLUS = r"\+" t_MINUS = r"\-" t_MUL = r"\*" t_DIV = r"/" t_LPAREN = r"\(" t_RPAREN = r"\)" t_POW = r"\^" # 忽略空格和制表符 t_ignore = " \t" # 为每个规则添加动作 def t_FLOAT(t): r"""\d+\.\d+""" t.value = float(t.value) return t def t_NUM(t): r"""\d+""" t.value = int(t.value) return t # 未定义规则字符的错误处理 def t_error(t): # 此处的 t.value 包含未标记的其余输入 print(f"keyword not found: {t.value[0]}\nline {t.lineno}") t.lexer.skip(1) # 如果看到 \n 则将其设为新的一行 def t_newline(t): r"""\n+""" t.lexer.lineno += t.value.count("\n") ##################################### # 设置符号优先级 # ##################################### precedence = ( ("left", "PLUS", "MINUS"), ("left", "MUL", "DIV"), ("left", "POW"), ("right", "UPLUS", "UMINUS") ) ##################################### # 书写 BNF 规则 # ##################################### def p_expression(p): """expression : expression PLUS expression | expression MINUS expression | expression DIV expression | expression MUL expression | expression POW expression""" if (p[2], p[3]) == ("/", 0): # 如果除以 0,则将“INF”(无限)作为值 p[0] = float("INF") else: p[0] = ops[p[2]](p[1], p[3]) def p_expression_uplus_or_expr(p): """expression : PLUS expression %prec UPLUS | LPAREN expression RPAREN""" p[0] = p[2] def p_expression_uminus(p): """expression : MINUS expression %prec UMINUS""" p[0] = -p[2] def p_expression_num(p): """expression : NUM | FLOAT""" p[0] = p[1] # 语法错误时的规则 def p_error(p): print(f"Syntax error in {p.value}") ##################################### # 主程式 # ##################################### if __name__ == "__main__": basicConfig(level=INFO, filename="logs.txt") lexlexer = lex.lex() parser = yacc.yacc() while True: try: result = parser.parse( input(">>>"), debug=getLogger()) print(result) except AttributeError: print("invalid syntax")
关于“Python实现解释器的方法是什么,具体步骤是怎样”的内容今天就到这,感谢各位的阅读,大家可以动手实际看看,对大家加深理解更有帮助哦。如果想了解更多相关内容的文章,关注我们,群英网络小编每天都会为大家更新不同的知识。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:mmqy2019@163.com进行举报,并提供相关证据,查实之后,将立刻删除涉嫌侵权内容。
猜你喜欢
#!/use/bin/envpython#-*-conding:utf-8-*-#author:shanshan"""写代码1,实现用户输入用户名和密码,当用户名为seven且密码为123时,显示登陆成功,否则登陆失败!2,实现用户输入用户名和密码,当用户名为seven且密码为123时,显示登陆成功,否则登陆失败,失败时允许重复输入三次3,实现用户输入用户名和密码,当用户
神经网络一般用GPU来跑,我们的神经网络框架一般也都安装的GPU版本,本文就简单记录一下GPU使用的编写。GPU的设置不在model,而是在Train的初始化上。
这篇文章主要介绍了python中input()的用法及扩展,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
列表是由一系列按照特定顺序的元素组成!列表是最常用的 Python 数据类型,它可以作为一个方括号内的逗号分隔值出现。列表的数据项不需要具有相同的类型!!
最近在使用Django,学习了一下Django数据库迁移,在执行迁移命令时,突然报错,本文就总结了一下原因,感兴趣的小伙伴们可以参考一下
成为群英会员,开启智能安全云计算之旅
立即注册Copyright © QY Network Company Ltd. All Rights Reserved. 2003-2020 群英 版权所有
增值电信经营许可证 : B1.B2-20140078 粤ICP备09006778号 域名注册商资质 粤 D3.1-20240008