Java尽量精确地抽取网页的发布时间

下面是编程之家 jb51.cc 通过网络收集整理的代码片段。

编程之家小编现在分享给大家,也给大家做个参考。

对网页中各种不同格式的发布时间进行抽取,将发布时间以规整的“yyyy-MM-dd HH:mm:ss”格式表示出来,只能尽量追求精确,但是因为网络发布时间的格式十分灵活,所以做不到百分百地正确抽取
package whu.extract.pubtime.core;

import java.util.ArrayList;
import java.util.Calendar;
import java.util.Collections;
import java.util.List;
import java.util.regex.Matcher;
import java.util.regex.Pattern;

import whu.utils.TimeUtil;

/**
 * Created On 2014年3月13日 下午2:49:05
 * @description 获取网页的发布时间 
 */
public class FetchPubTime {
	/** 表示url中连续的8位日期,例如http://www.baidu.com/20140311/2356.html */
	private static String url_reg_whole= "([-|/|_]{1}20\\d{6})";
	/** 表示 用-或者/隔开的日期,有年月日的,例如 http://www.baidu.com/2014-3-11/2356.html  */
	private static String url_reg_sep_ymd = "([-|/|_]{1}20\\d{2}[-|/|_]{1}\\d{1,2}[-|/|_]{1}\\d{1,2})";
	/** 表示 用-或者/隔开的日期,只有年和月份的,例如 http://www.baidu.com/2014-3/2356.html  */
	private static String url_reg_sep_ym = "([-|/|_]{1}20\\d{2}[-|/|_]{1}\\d{1,2})";
	private static Calendar current = Calendar.getInstance();
	/** 格式正确的时间正则表达式*/
	private static String rightTimeReg = "^((\\d{2}(([02468][048])|([13579][26]))[\\-\\/\\s]?((((0?[13578])|(1[02]))[\\-\\/\\s]?((0?[1-9])|([1-2][0-9])|(3[01])))|(((0?[469])|(11))[\\-\\/\\s]?((0?[1-9])|([1-2][0-9])|(30)))|(0?2[\\-\\/\\s]?((0?[1-9])|([1-2][0-9])))))|(\\d{2}(([02468][1235679])|([13579][01345789]))[\\-\\/\\s]?((((0?[13578])|(1[02]))[\\-\\/\\s]?((0?[1-9])|([1-2][0-9])|(3[01])))|(((0?[469])|(11))[\\-\\/\\s]?((0?[1-9])|([1-2][0-9])|(30)))|(0?2[\\-\\/\\s]?((0?[1-9])|(1[0-9])|(2[0-8]))))))(\\s(((0?[0-9])|([1-2][0-3]))\\:([0-5]?[0-9])((\\s)|(\\:([0-5]?[0-9])))))?$";
	
	/**
	 * @param url
	 * @param urlContent
	 * @return
	 */
	public static String getPubTimeVarious(String url,String urlContent) {
		
        String pubTime = getPubTimeFromUrl(url);
        
      //链接里面没有,匹配文本中的
    	if(pubTime == null)
    	{
    		if(urlContent!=null&&!urlContent.trim().equals(""))
    			return extractPageDate(urlContent);
    	}
    	
		return pubTime;
	}
	
	/**从url里面抽取出发布时间,返回YYYY-MM-DD HH:mm:ss格式的字符串
	 * @param url
	 * @return
	 */
	public static String getPubTimeFromUrl(String url)
	{
		Pattern p_whole = Pattern.compile(url_reg_whole);
		Matcher m_whole = p_whole.matcher(url);
		if(m_whole.find(0)&&m_whole.groupCount()>0)
        {
     	   String time =  m_whole.group(0);
     	   time = time.substring(1,time.length());
     	   //每一步都不能够超出当前时间  		
  		if(current.compareTo(TimeUtil.strToCalendar(time,"yyyyMMdd"))>=0)
  		{

     	   return time.substring(0,4)+"-"+time.substring(4,6)+"-"+
     	     	  time.substring(6,8)+" "+"00:00:00";
        }
        }
      
        p_whole = null;
        m_whole = null;
        Pattern p_sep = Pattern.compile(url_reg_sep_ymd);
    	Matcher m_sep = p_sep.matcher(url);
    	if(m_sep.find(0)&&m_sep.groupCount()>0)
    	{
    		 String time =  m_sep.group(0);
    		 time = time.substring(1,time.length());
    		 String[] seg = time.split("[-|/|_]{1}");
    		 Calendar theTime = Calendar.getInstance();
    		 theTime.set(Calendar.YEAR,Integer.parseInt(seg[0]));
    		 theTime.set(Calendar.MONTH,Integer.parseInt(seg[1]));
    		 theTime.set(Calendar.DAY_OF_MONTH,Integer.parseInt(seg[2]));
    		 if(current.compareTo(theTime)>=0)
    	  		{
    	   	
    		return seg[0]+"-"+seg[1]+"-"+seg[2]+" "+"00:00:00";
    	  		}
    	}
    	p_sep = null;
    	m_sep = null;
        Pattern p_sep_ym = Pattern.compile(url_reg_sep_ym);
        Matcher m_sep_ym = p_sep_ym.matcher(url);
        if(m_sep_ym.find(0)&&m_sep_ym.groupCount()>0)
        {
        	 String time =  m_sep_ym.group(0);
        	 time = time.substring(1,time.length());
        	 Calendar theTime = Calendar.getInstance();
        	 String[] seg = time.split("[-|/|_]{1}");
    		 theTime.set(Calendar.YEAR,1);
        	 if(current.compareTo(theTime)>=0)
 	  		{
        	 
        	return seg[0]+"-"+seg[1]+"-"+"01"+" "+"00:00:00";
 	  		}
        }
        
        return null;
	}
	

	/** 从网页源码中取出发布时间
	 *  java中正则表达式提取字符串中日期实现代码
	 *  2013年12月19日15:58:42
	 *  读取出2013-12-19 15:48:33或者2013-12-19或者2012/3/05形式的时间
	 * @param text 待提取的字符串
	 * @return 返回日期
	 * @author: oschina
	 * @Createtime: Jan 21,2013
	 */
	public static String extractPageDate(String text) { 
		boolean  containsHMS =false;
        String dateStr = text.replaceAll("r?n"," ");
        try { 
            List matches = null; 
            Pattern p_detail = Pattern.compile("(20\\d{2}[-/]\\d{1,2}[-/]\\d{1,2} \\d{1,2}:\\d{1,2})|(20\\d{2}年\\d{1,2}月\\d{1,2}日)",Pattern.CASE_INSENSITIVE|Pattern.MULTILINE); 
			//如果是仅仅抽取年月日,则按照上面的,如果是抽取年月日-时分秒,则按照下面的
			Pattern p = Pattern.compile("(20\\d{2}[-/]\\d{1,Pattern.CASE_INSENSITIVE|Pattern.MULTILINE);
            //Matcher matcher = p.matcher(dateStr);
            Matcher matcher_detail = p_detail.matcher(dateStr);
            
            if(!(matcher_detail.find(0) && matcher_detail.groupCount() >= 1)) 
            {
            	matcher_detail = p.matcher(dateStr);
            	containsHMS  = true;
            }else 
            	matcher_detail = p_detail.matcher(dateStr);
            if (matcher_detail.find() && matcher_detail.groupCount() >= 1) { 
                matches = new ArrayList(); 
                for (int i = 1; i <= matcher_detail.groupCount(); i++) { 
                    String temp = matcher_detail.group(i); 
                    matches.add(temp); 
                } 
            } else { 
                matches = Collections.EMPTY_LIST; 
            }            

            if (matches.size() > 0) { 
            	for(int i=0;i<matches.size();i++)
            	{
            		String pubTime = matches.get(i).toString().trim();
            		//取出第一个值
        			pubTime = pubTime.replace("/","-").replace("年","-").replace("月","-").replace("日","-");
            		if(current.compareTo(TimeUtil.strToCalendar(pubTime,"yyyy-MM-dd"))>=0)
            		{
            			if(containsHMS)
            				pubTime+=" "+"00:00:00";
            			if(pubTime.matches(rightTimeReg))
            			{
            				return pubTime; 
            			}
            		}
            	}
            } else { 
                return null; 
            } 
            
        } catch (Exception e) { 
            return null; 
        } 
        return null;
    }
}

以上是编程之家(jb51.cc)为你收集整理的全部代码内容,希望文章能够帮你解决所遇到的程序开发问题。

如果觉得编程之家网站内容还不错,欢迎将编程之家网站推荐给程序员好友。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


摘要: 原创出处 https://www.bysocket.com 「公众号:泥瓦匠BYSocket 」欢迎关注和转载,保留摘要,谢谢! 目录 连接 连接池产生原因 连接池实现原理 小结 TEMPERANCE:Eat not to dullness;drink not to elevation.节制
摘要: 原创出处 https://www.bysocket.com 「公众号:泥瓦匠BYSocket 」欢迎关注和转载,保留摘要,谢谢! 一个优秀的工程师和一个普通的工程师的区别,不是满天飞的架构图,他的功底体现在所写的每一行代码上。-- 毕玄 1. 命名风格 【书摘】类名用 UpperCamelC
今天犯了个错:“接口变动,伤筋动骨,除非你确定只有你一个人在用”。哪怕只是throw了一个新的Exception。哈哈,这是我犯的错误。一、接口和抽象类类,即一个对象。先抽象类,就是抽象出类的基础部分,即抽象基类(抽象类)。官方定义让人费解,但是记忆方法是也不错的 —包含抽象方法的类叫做抽象类。接口
Writer :BYSocket(泥沙砖瓦浆木匠)微 博:BYSocket豆 瓣:BYSocketFaceBook:BYSocketTwitter :BYSocket一、引子文件,作为常见的数据源。关于操作文件的字节流就是 —FileInputStream&amp;FileOutputStream。
作者:泥沙砖瓦浆木匠网站:http://blog.csdn.net/jeffli1993个人签名:打算起手不凡写出鸿篇巨作的人,往往坚持不了完成第一章节。交流QQ群:【编程之美 365234583】http://qm.qq.com/cgi-bin/qm/qr?k=FhFAoaWwjP29_Aonqz
本文目录 线程与多线程 线程的运行与创建 线程的状态 1 线程与多线程 线程是什么? 线程(Thread)是一个对象(Object)。用来干什么?Java 线程(也称 JVM 线程)是 Java 进程内允许多个同时进行的任务。该进程内并发的任务成为线程(Thread),一个进程里至少一个线程。 Ja
Writer :BYSocket(泥沙砖瓦浆木匠)微 博:BYSocket豆 瓣:BYSocketFaceBook:BYSocketTwitter :BYSocket在面向对象编程中,编程人员应该在意“资源”。比如?1String hello = &quot;hello&quot;; 在代码中,我们
摘要: 原创出处 https://www.bysocket.com 「公众号:泥瓦匠BYSocket 」欢迎关注和转载,保留摘要,谢谢! 这是泥瓦匠的第103篇原创 《程序兵法:Java String 源码的排序算法(一)》 文章工程:* JDK 1.8* 工程名:algorithm-core-le
摘要: 原创出处 https://www.bysocket.com 「公众号:泥瓦匠BYSocket 」欢迎关注和转载,保留摘要,谢谢! 目录 一、父子类变量名相同会咋样? 有个小故事,今天群里面有个人问下面如图输出什么? 我回答:60。但这是错的,答案结果是 40 。我知错能改,然后说了下父子类变
作者:泥瓦匠 出处:https://www.bysocket.com/2021-10-26/mac-create-files-from-the-root-directory.html Mac 操作系统挺适合开发者进行写代码,最近碰到了一个问题,问题是如何在 macOS 根目录创建文件夹。不同的 ma
作者:李强强上一篇,泥瓦匠基础地讲了下Java I/O : Bit Operation 位运算。这一讲,泥瓦匠带你走进Java中的进制详解。一、引子在Java世界里,99%的工作都是处理这高层。那么二进制,字节码这些会在哪里用到呢?自问自答:在跨平台的时候,就凸显神功了。比如说文件读写,数据通信,还
1 线程中断 1.1 什么是线程中断? 线程中断是线程的标志位属性。而不是真正终止线程,和线程的状态无关。线程中断过程表示一个运行中的线程,通过其他线程调用了该线程的 方法,使得该线程中断标志位属性改变。 深入思考下,线程中断不是去中断了线程,恰恰是用来通知该线程应该被中断了。具体是一个标志位属性,
Writer:BYSocket(泥沙砖瓦浆木匠)微博:BYSocket豆瓣:BYSocketReprint it anywhere u want需求 项目在设计表的时候,要处理并发多的一些数据,类似订单号不能重复,要保持唯一。原本以为来个时间戳,精确到毫秒应该不错了。后来觉得是错了,测试环境下很多一
纯技术交流群 每日推荐 - 技术干货推送 跟着泥瓦匠,一起问答交流 扫一扫,我邀请你入群 纯技术交流群 每日推荐 - 技术干货推送 跟着泥瓦匠,一起问答交流 扫一扫,我邀请你入群 加微信:bysocket01
Writer:BYSocket(泥沙砖瓦浆木匠)微博:BYSocket豆瓣:BYSocketReprint it anywhere u want.文章Points:1、介绍RESTful架构风格2、Spring配置CXF3、三层初设计,实现WebService接口层4、撰写HTTPClient 客户
Writer :BYSocket(泥沙砖瓦浆木匠)什么是回调?今天傻傻地截了张图问了下,然后被陈大牛回答道“就一个回调…”。此时千万个草泥马飞奔而过(逃哈哈,看着源码,享受着这种回调在代码上的作用,真是美哉。不妨总结总结。一、什么是回调回调,回调。要先有调用,才有调用者和被调用者之间的回调。所以在百
Writer :BYSocket(泥沙砖瓦浆木匠)一、什么大小端?大小端在计算机业界,Endian表示数据在存储器中的存放顺序。百度百科如下叙述之:大端模式,是指数据的高字节保存在内存的低地址中,而数据的低字节保存在内存的高地址中,这样的存储模式有点儿类似于把数据当作字符串顺序处理:地址由小向大增加
What is a programming language? Before introducing compilation and decompilation, let&#39;s briefly introduce the Programming Language. Programming la
Writer :BYSocket(泥沙砖瓦浆木匠)微 博:BYSocket豆 瓣:BYSocketFaceBook:BYSocketTwitter :BYSocket泥瓦匠喜欢Java,文章总是扯扯Java。 I/O 基础,就是二进制,也就是Bit。一、Bit与二进制什么是Bit(位)呢?位是CPU
Writer:BYSocket(泥沙砖瓦浆木匠)微博:BYSocket豆瓣:BYSocket一、前言 泥瓦匠最近被项目搞的天昏地暗。发现有些要给自己一些目标,关于技术的目标:专注很重要。专注Java 基础 + H5(学习) 其他操作系统,算法,数据结构当成课外书博览。有时候,就是那样你越是专注方面越