同时存在unicode-escape和utf-8的解码方法

在爬取lc提交代码的时候遇到的一个问题,在爬取到的源码中,符号是采用unicode-escape编码的,而其中的中文是采用utf-8编码的,正常解码无论怎样都会出现乱码,本文记录下解决办法。

文章目录


示例

下面是lc第一题爬取的源码,编码为"utf-8",中文可以正确显示,但是换行符等符号并不能正确显示,因此需要转换。

code = "class Solution:\u000A    def twoSum(self, nums: List[int], target: int) \u002D\u003E List[int]:\u000A        dic \u003D defaultdict(int) # 哈希字典\u000A        for i,num in enumerate(nums):\u000A            if num in dic: return [dic[num],i]\u000A            dic[target\u002Dnum]\u003Di"

正常我们的解码是这样的:

code = code.encode("utf-8").decode("unicode-escape")

这样上面的换行符等就可以正确显示为\n等正确的编码,但是原本上面的中文就是utf-8了,解码为unicode-escape就会出现乱码,输出文件就会像下面的这样。

解决办法

其实很简单,就是局部解码就可以了:

  • 首先利用正则表达式找到所有采用unicode-escape编码的字符,

  • 然后将其解码再替换原字符串

code = re.sub(r'(\\u[\s\S]{4})',lambda x:x.group(1).encode("utf-8").decode("unicode-escape"),code)

再来查看一下我们写入的文件,就没有乱码的情况了。


猜你喜欢

转载自blog.csdn.net/huiruwei1020/article/details/106649606