java基于HttpClient和Jsoup的抓取京东商品信息解决未登录跳转问题:https://passport.jd.com/uc/login

空闲间写了个java的使用httpClient和Jsoup去获取京东商品信息的接口,然后存储到数据库中。

中间发现一个问题,我们使用httpclient api通过京东url去获取信息:

//获取HttpClient对象
CloseableHttpClient httpClient = HttpClients.custom().setConnectionManager(cm).build();
//声明httpGet请求对象
HttpGet httpGet = new HttpGet(url);

返回结果:

<script>window.location.href='https://passport.jd.com/uc/login'</script>

这个意思是需要跳转到京东登录页面进行登录,解决方法:

设置一下头信息:模拟环境

httpGet.setHeader("User-Agent","Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:62.0) Gecko/20100101 Firefox/62.0");

猜你喜欢

转载自blog.csdn.net/weixin_42736075/article/details/106860144