使用pyppeteer突破淘宝selenium检测实现登陆

前言

在两年前写过一个selenium驱动的淘宝爬虫,突然今天拿来运行的时候,需要登录才能采集到数据,于是定位一下元素,发现需要解决滑动验证码问题,简单写了模拟滑动的请求,发现怎么滑动都无法通过认证,显示error错误,这个可把我纠结的呀。去网上看了一些帖子,了解一些这个反扒机制,有点一知半解。后来通过查资料了解到有一个叫pyppeteer的库,也可以实现自动化模拟请求登录,而且使用的是异步请求,相较于selenium运行效率也提高了不少。对于pyppeteer这个库我就不介绍了,网上的安装以及配置有很多教程,都可以借鉴学习。下文就是使用pyppeteer这个库来实现淘宝模拟登录。

正文

前面说过,淘宝的检测机制是检测你的window.navigator.webdriver的返回值,正常请求返回False,使用selenium驱动的话,会返回True,或者是undefined,我们就可以从这个机制入手,修改他的js代码,再去请求就不会出现验证码error的错误了。话不多说,下面是完整的淘宝请求代码:

import asyncio
import time,random
from pyppeteer.launcher import launch # 控制模拟浏览器用
from retrying import retry #设置重试次数用的

async def main(username, pwd, url):# 定义main协程函数,
    #以下使用await 可以针对耗时的操作进行挂起
    browser = await launch({'headless': False, 'args': ['--no-sandbox'], }) # 启动pyppeteer 属于内存中实现交互的模拟器
    page = await browser.newPage()  # 启动个新的浏览器页面
    await page.setUserAgent(
        'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36')

    await page.goto(url) # 访问登录页面
    # 替换淘宝在检测浏览时采集的一些参数。
    # 就是在浏览器运行的时候,始终让window.navigator.webdriver=false
    # navigator是windiw对象的一个属性,同时修改plugins,languages,navigator 且让
    await page.evaluate('''() =>{ Object.defineProperties(navigator,{ webdriver:{ get: () => false } }) }''') #以下为插入中间js,将淘宝会为了检测浏览器而调用的js修改其结果。
    await page.evaluate('''() =>{ window.navigator.chrome = { runtime: {},  }; }''')
    await page.evaluate('''() =>{ Object.defineProperty(navigator, 'languages', { get: () => ['en-US', 'en'] }); }''')
    await page.evaluate('''() =>{ Object.defineProperty(navigator, 'plugins', { get: () => [1, 2, 3, 4, 5,6], }); }''')

    # 使用type选定页面元素,并修改其数值,用于输入账号密码,修改的速度仿人类操作,因为有个输入速度的检测机制
    # 因为 pyppeteer 框架需要转换为js操作,而js和python的类型定义不同,所以写法与参数要用字典,类型导入
    await page.type('.J_UserName', username, {'delay': input_time_random() - 50})
    await page.type('#J_StandardPwd input', pwd, {'delay': input_time_random()})

    #await page.screenshot({'path': './headless-test-result.png'})    # 截图测试
    time.sleep(2)

    # 检测页面是否有滑块。原理是检测页面元素。
    slider = await page.Jeval('#nocaptcha', 'node => node.style')  # 是否有滑块

    if slider:
        print('当前页面出现滑块')
        #await page.screenshot({'path': './headless-login-slide.png'}) # 截图测试
        flag,page = await mouse_slide(page=page) #js拉动滑块过去。
        if flag:
            await page.keyboard.press('Enter') # 确保内容输入完毕,少数页面会自动完成按钮点击
            print("print enter",flag)
            await page.evaluate('''document.getElementById("J_SubmitStatic").click()''') # 如果无法通过回车键完成点击,就调用js模拟点击登录按钮。
            time.sleep(10)
            time.sleep(2)
            #cookies_list = await page.cookies()
            #print(cookies_list)
            await get_cookie(page) # 导出cookie 完成登陆后就可以拿着cookie玩各种各样的事情了。
    else:
        print("")
        await page.keyboard.press('Enter')
        print("print enter")
        await page.evaluate('''document.getElementById("J_SubmitStatic").click()''')
        await page.waitFor(20)
        await page.waitForNavigation()

        try:
            global error # 检测是否是账号密码错误
            print("error_1:",error)
            error = await page.Jeval('.error', 'node => node.textContent')
            print("error_2:",error)
        except Exception as e:
            error = None
        finally:
            if error:
                print('确保账户安全重新入输入')
                # 程序退出。
                loop.close()
            else:
                print(page.url)
                await get_cookie(page)
    #time.sleep(100)
# 获取登录后cookie
async def get_cookie(page):
    #res = await page.content()
    cookies_list = await page.cookies()
    cookies = ''
    for cookie in cookies_list:
        str_cookie = '{0}={1};'
        str_cookie = str_cookie.format(cookie.get('name'), cookie.get('value'))
        cookies += str_cookie
    print(cookies)
    return cookies

def retry_if_result_none(result):
    return result is None

@retry(retry_on_result=retry_if_result_none,)
async def mouse_slide(page=None):
    await asyncio.sleep(2)
    try :
        #鼠标移动到滑块,按下,滑动到头(然后延时处理),松开按键
        await page.hover('#nc_1_n1z') # 不同场景的验证码模块能名字不同。
        await page.mouse.down()
        await page.mouse.move(2000, 0, {'delay': random.randint(1000, 2000)})
        await page.mouse.up()
    except Exception as e:
        print(e, ':验证失败')
        return None,page
    else:
        await asyncio.sleep(2)
        # 判断是否通过
        slider_again = await page.Jeval('.nc-lang-cnt', 'node => node.textContent')
        if slider_again != '验证通过':
            return None,page
        else:
            #await page.screenshot({'path': './headless-slide-result.png'}) # 截图测试
            print('验证通过')
            return 1,page

def input_time_random():
    return random.randint(100, 151)

if __name__ == '__main__':
    username = 'XXXXXXXX' # 淘宝用户名
    pwd = 'XXXXXXX' #密码
    url = 'https://login.taobao.com/member/login.jhtml?style=mini&css_style=b2b&from=b2b&full_redirect=true&redirect_url=https://login.1688.com/member/jump.htm?target=https://login.1688.com/member/marketSigninJump.htm?Done=http://login.1688.com/member/taobaoSellerLoginDispatch.htm&reg= http://member.1688.com/member/join/enterprise_join.htm?lead=http://login.1688.com/member/taobaoSellerLoginDispatch.htm&leadUrl=http://login.1688.com/member/'
    loop = asyncio.get_event_loop()  #协程,开启个无限循环的程序流程,把一些函数注册到事件循环上。当满足事件发生的时候,调用相应的协程函数。
    loop.run_until_complete(main(username, pwd, url))  #将协程注册到事件循环,并启动事件循环

在上方将自己的淘宝用户名和密码输入就好了。不过需要提醒的是,asyncio这个库只有在python3.5版本以上才能使用,还有就是安装pyppeteer过后,第一次使用这个库,他会安装chromium,这个可能需要一点时间。同时欢迎访问个人博客主页… …

结语

以上就是完整的代码流程,有兴趣的可以试试。
此文章借鉴于spider_taobao

发布了15 篇原创文章 · 获赞 9 · 访问量 8556

猜你喜欢

转载自blog.csdn.net/Since_you/article/details/94594389