android端做一款答题辅助软件
目前无论是各大平台还是游戏内部都会有答题娱乐,但是手动打题目搜索的话,还没打完字答题时间就结束了,速度慢。所以做一个简单的学术研究。
思路:
当答题开始的时候先获取题目、答案,然后去百度、google浏览器搜索答案,作为参考。
1:首先获取题目和答案,俩种方法(我们暂且用第2种)
(1):抓包直接获取,这种方法效率高,但是开发时间长,因为时间原因,就先不用这种方法,后续有时间可能会抓一下。
(2):利用图像识别,提取文字,根据题目显示位置坐标截取图片,提高效率。(但整体还是没有第一种准确,快)
2:根据提取的题目自动打开浏览器搜索,搜素出结果提供参考。
后续还可以利用paython做的更加人性化,准确清晰的显示结果,因为我们只做Android端,先不讲
具体流程
1、首先题目显示后,手机快捷键截屏
2、我们对手机系统截屏进行监听
3、如果有截图,那么就提取截屏的图片
4、然后对截图进行指定坐标裁剪只获取题目部分(因为识别全部图片肯定费时间长,我们需要精确识别)
5、裁剪后进行图片文字识别,我们用百度的识别,很准确,一天免费5000次,够用了
6、识别出题目后,我们拉起手机浏览器自动搜索(android有拉起浏览器并搜索链接的方法)
7、这样我们就可以查看搜索内容快速参考答题了
代码片段
1、手机系统截屏监听
import android.content.Context; import android.database.ContentObserver; import android.database.Cursor; import android.graphics.BitmapFactory; import android.graphics.Point; import android.net.Uri; import android.os.Build; import android.os.Handler; import android.os.Looper; import android.provider.MediaStore; import android.text.TextUtils; import android.util.Log; import android.view.Display; import android.view.WindowManager; import java.lang.reflect.Method; import java.util.ArrayList; import java.util.List; /** * 截屏监听 * * //需要申请的权限 * Requires Permission: android.permission.READ_EXTERNAL_STORAGE * * * 调用此方法监听,需要先开启 * ScreenListenManager manager = ScreenListenManager.newInstance(context); * * manager.setListener( * new OnScreenShotListener() { * public void onShot(String imagePath) { * //截屏成功后调用 * } * } * ); * * manager.startListen(); //开启截屏监听 * * manager.stopListen(); //关闭截屏监听 * */ public class ScreenListenManager { private static final String TAG = "ScreenListenManager"; /** 读取媒体数据库时需要读取的列 */ private static final String[] MEDIA_PROJECTIONS = { MediaStore.Images.ImageColumns.DATA, MediaStore.Images.ImageColumns.DATE_TAKEN, }; /** 读取媒体数据库时需要读取的列, 其中 WIDTH 和 HEIGHT 字段在 API 16 以后才有 */ private static final String[] MEDIA_PROJECTIONS_API_16 = { MediaStore.Images.ImageColumns.DATA, MediaStore.Images.ImageColumns.DATE_TAKEN, MediaStore.Images.ImageColumns.WIDTH, MediaStore.Images.ImageColumns.HEIGHT, }; /** 截屏依据中的路径判断关键字 */ private static final String[] KEYWORDS = { "screenshot", "screen_shot", "screen-shot", "screen shot", "screencapture", "screen_capture", "screen-capture", "screen capture", "screencap", "screen_cap", "screen-cap", "screen cap" }; private static Point sScreenRealSize; /** 已回调过的路径 */ private final List<String> sHasCallbackPaths = new ArrayList<String>(); private Context mContext; private OnScreenShotListener mListener; private long mStartListenTime; /** 内部存储器内容观察者 */ private MediaContentObserver mInternalObserver; /** 外部存储器内容观察者 */ private MediaContentObserver mExternalObserver; /** 运行在 UI 线程的 Handler, 用于运行监听器回调 */ private final Handler mUiHandler = new Handler(Looper.getMainLooper()); private ScreenListenManager(Context context) { if (context == null) { throw new IllegalArgumentException("The context must not be null."); } mContext = context; // 获取屏幕真实的分辨率 if (sScreenRealSize == null) { sScreenRealSize = getRealScreenSize(); if (sScreenRealSize != null) { Log.d(TAG, "Screen Real Size: " + sScreenRealSize.x + " * " + sScreenRealSize.y); } else { Log.w(TAG, "Get screen real size failed."); } } } public static ScreenListenManager newInstance(Context context) { assertInMainThread(); return new ScreenListenManager(context); } /** * 启动监听 */ public void startListen() { assertInMainThread(); sHasCallbackPaths.clear(); // 记录开始监听的时间戳 mStartListenTime = System.currentTimeMillis(); // 创建内容观察者 mInternalObserver = new MediaContentObserver(MediaStore.Images.Media.INTERNAL_CONTENT_URI, mUiHandler); mExternalObserver = new MediaContentObserver(MediaStore.Images.Media.EXTERNAL_CONTENT_URI, mUiHandler); // 注册内容观察者 mContext.getContentResolver().registerContentObserver( MediaStore.Images.Media.INTERNAL_CONTENT_URI, false, mInternalObserver ); mContext.getContentResolver().registerContentObserver( MediaStore.Images.Media.EXTERNAL_CONTENT_URI, false, mExternalObserver ); } /** * 停止监听 */ public void stopListen() { assertInMainThread(); // 注销内容观察者 if (mInternalObserver != null) { try { mContext.getContentResolver().unregisterContentObserver(mInternalObserver); } catch (Exception e) { e.printStackTrace(); } mInternalObserver = null; } if (mExternalObserver != null) { try { mContext.getContentResolver().unregisterContentObserver(mExternalObserver); } catch (Exception e) { e.printStackTrace(); } mExternalObserver = null; } // 清空数据 mStartListenTime = 0; sHasCallbackPaths.clear(); } /** * 处理媒体数据库的内容改变 */ private void handleMediaContentChange(Uri contentUri) { Cursor cursor = null; try { // 数据改变时查询数据库中最后加入的一条数据 cursor = mContext.getContentResolver().query( contentUri, Build.VERSION.SDK_INT < 16 ? MEDIA_PROJECTIONS : MEDIA_PROJECTIONS_API_16, null, null, MediaStore.Images.ImageColumns.DATE_ADDED + " desc limit 1" ); if (cursor == null) { Log.e(TAG, "Deviant logic."); return; } if (!cursor.moveToFirst()) { Log.d(TAG, "Cursor no data."); return; } // 获取各列的索引 int dataIndex = cursor.getColumnIndex(MediaStore.Images.ImageColumns.DATA); int dateTakenIndex = cursor.getColumnIndex(MediaStore.Images.ImageColumns.DATE_TAKEN); int widthIndex = -1; int heightIndex = -1; if (Build.VERSION.SDK_INT >= 16) { widthIndex = cursor.getColumnIndex(MediaStore.Images.ImageColumns.WIDTH); heightIndex = cursor.getColumnIndex(MediaStore.Images.ImageColumns.HEIGHT); } // 获取行数据 String data = cursor.getString(dataIndex); long dateTaken = cursor.getLong(dateTakenIndex); int width = 0; int height = 0; if (widthIndex >= 0 && heightIndex >= 0) { width = cursor.getInt(widthIndex); height = cursor.getInt(heightIndex); } else { // API 16 之前, 宽高要手动获取 Point size = getImageSize(data); width = size.x; height = size.y; } // 处理获取到的第一行数据 handleMediaRowData(data, dateTaken, width, height); } catch (Exception e) { e.printStackTrace(); } finally { if (cursor != null && !cursor.isClosed()) { cursor.close(); } } } private Point getImageSize(String imagePath) { BitmapFactory.Options options = new BitmapFactory.Options(); options.inJustDecodeBounds = true; BitmapFactory.decodeFile(imagePath, options); return new Point(options.outWidth, options.outHeight); } /** * 处理获取到的一行数据 */ private void handleMediaRowData(String data, long dateTaken, int width, int height) { if (checkScreenShot(data, dateTaken, width, height)) { Log.d(TAG, "ScreenShot: path = " + data + "; size = " + width + " * " + height + "; date = " + dateTaken); if (mListener != null && !checkCallback(data)) { mListener.onShot(data); } } else { // 如果在观察区间媒体数据库有数据改变,又不符合截屏规则,则输出到 log 待分析 Log.w(TAG, "Media content changed, but not screenshot: path = " + data + "; size = " + width + " * " + height + "; date = " + dateTaken); } } /** * 判断指定的数据行是否符合截屏条件 */ private boolean checkScreenShot(String data, long dateTaken, int width, int height) { /* * 判断依据一: 时间判断 */ // 如果加入数据库的时间在开始监听之前, 或者与当前时间相差大于10秒, 则认为当前没有截屏 if (dateTaken < mStartListenTime || (System.currentTimeMillis() - dateTaken) > 10 * 1000) { return false; } /* * 判断依据二: 尺寸判断 */ if (sScreenRealSize != null) { // 如果图片尺寸超出屏幕, 则认为当前没有截屏 if ( !( (width <= sScreenRealSize.x && height <= sScreenRealSize.y) || (height <= sScreenRealSize.x && width <= sScreenRealSize.y) )) { return false; } } /* * 判断依据三: 路径判断 */ if (TextUtils.isEmpty(data)) { return false; } data = data.toLowerCase(); // 判断图片路径是否含有指定的关键字之一, 如果有, 则认为当前截屏了 for (String keyWork : KEYWORDS) { if (data.contains(keyWork)) { return true; } } return false; } /** * 判断是否已回调过, 某些手机ROM截屏一次会发出多次内容改变的通知; <br/> * 删除一个图片也会发通知, 同时防止删除图片时误将上一张符合截屏规则的图片当做是当前截屏. */ private boolean checkCallback(String imagePath) { if (sHasCallbackPaths.contains(imagePath)) { return true; } // 大概缓存15~20条记录便可 if (sHasCallbackPaths.size() >= 20) { for (int i = 0; i < 5; i++) { sHasCallbackPaths.remove(0); } } sHasCallbackPaths.add(imagePath); return false; } /** * 获取屏幕分辨率 */ private Point getRealScreenSize() { Point screenSize = null; try { screenSize = new Point(); WindowManager windowManager = (WindowManager) mContext.getSystemService(Context.WINDOW_SERVICE); Display defaultDisplay = windowManager.getDefaultDisplay(); if (Build.VERSION.SDK_INT >= Build.VERSION_CODES.JELLY_BEAN_MR1) { defaultDisplay.getRealSize(screenSize); } else { try { Method mGetRawW = Display.class.getMethod("getRawWidth"); Method mGetRawH = Display.class.getMethod("getRawHeight"); screenSize.set( (Integer) mGetRawW.invoke(defaultDisplay), (Integer) mGetRawH.invoke(defaultDisplay) ); } catch (Exception e) { screenSize.set(defaultDisplay.getWidth(), defaultDisplay.getHeight()); e.printStackTrace(); } } } catch (Exception e) { e.printStackTrace(); } return screenSize; } /** * 设置截屏监听器 */ public void setListener(OnScreenShotListener listener) { mListener = listener; } public static interface OnScreenShotListener { public void onShot(String imagePath); } private static void assertInMainThread() { if (Looper.myLooper() != Looper.getMainLooper()) { StackTraceElement[] elements = Thread.currentThread().getStackTrace(); String methodMsg = null; if (elements != null && elements.length >= 4) { methodMsg = elements[3].toString(); } throw new IllegalStateException("Call the method must be in main thread: " + methodMsg); } } /** * 媒体内容观察者(观察媒体数据库的改变) */ private class MediaContentObserver extends ContentObserver { private Uri mContentUri; public MediaContentObserver(Uri contentUri, Handler handler) { super(handler); mContentUri = contentUri; } @Override public void onChange(boolean selfChange) { super.onChange(selfChange); handleMediaContentChange(mContentUri); } } }
2、对监听到的图片进行坐标裁剪
//先根据图片位置url转换成bitmap Bitmap bit = BitmapFactory.decodeFile(imgUrl); /** * 然后再根据题目显示位置坐标裁剪图片 * 第1个参数:图片裁剪x坐标起始位置 * 第2个参数:图片裁剪y坐标起始位置 * 第3个参数:图片裁剪宽度 * 第4个参数:图片裁剪高度 */ Bitmap bitmap = Bitmap.createBitmap(bit, 486, 540, 568, 735); //把裁剪后的图片的bitmap转换成byte(因为百度图片识别接口需要) ByteArrayOutputStream baos = new ByteArrayOutputStream(); bitmap.compress(Bitmap.CompressFormat.PNG, 100, baos); byte[] imgData = baos.toByteArray();
3、调用百度图文识别接口就可以了,传入刚才裁剪后的
https://cloud.baidu.com/doc/OCR/index.html
4、识别出的文字后,拉起手机浏览器并且打开搜索url
//跳转到浏览器搜索(小米手机自带浏览器)str就是图像识别的内容 String url = "https://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&rsv_idx=2&tn=baiduhome_pg&wd="+str; Uri uri = Uri.parse(url); Intent intent = new Intent(Intent.ACTION_VIEW, uri); intent.setClassName("com.android.browser", "com.android.browser.BrowserActivity");//打开miui浏览器 intent.setFlags(Intent.FLAG_ACTIVITY_NEW_TASK); startActivity(intent);
效果图