我国正在建设创新型国家,软件创新创业的“互联网+”模式已成为新兴战略产业的重要形态。互联网软件开发呈现边界开放、群体分散、交付频繁、知识复杂等特征,同时具有全生命周期数据,形成了规模巨大、碎片分散、快速膨胀的软件数据。如何建立多源异质、广泛关联、语义丰富、覆盖全面的软件大数据环境,分析提炼软件知识,以提升软件开发智能化程度已成为重要科学问题。
本项目重点研究软件大数据汇聚组织、知识表示提炼、软件工具智能化和智能开发服务环境等关键技术,目标在于建立基于大数据的软件智能化开发技术体系,研发关键性的软件智能化开发工具,形成“人-工具-数据”融合的软件智能化开发环境,构建软件智能化开发云平台,面向万众创新的社会需求,运行服务大众的公共服务平台,面向企业创新能力提升,提供智能化的企业软件开发环境。

项目的研究内容归结为2 项共性基础技术、4 项关键技术和1 项总体技术:(1)共性基础技术包括软件大数据汇聚方法与技术和软件知识提炼方法与技术;(2)围绕软件开发的主要活动,从软件构造、测试验证、智能协作和运维演化4 个方面分别研究软件智能化开发技术,研发相应的软件工具;(3)总体技术方面,以云服务集成和软件大数据融合为目标,研究集成框架和机制,形成软件智能化开发云平台,面向大众服务和大型企业需求,分别构建公共服务平台和企业开发环境。
项目研究方案为“问题导向、数据汇聚、知识提炼、智能释放”,综合运用大数据和智能化技术实现软件开发方法和工具的智能化变革;融合国际主流工具和技术框架,关注于研究和实现“智能化机制”:
(1)以“主动感知、定向采集、多源关联、增量检测”机制构建自生长的软件大数据环境,拟采用基于云架构的混合型软件大数据存储与管理框架,通过数据分布式存储和并发查询提高访问效率;
(2)为实现领域分析、模型分析、程序理解、编码、测试、部署等不同软件开发任务中的智能化支持,拟采用知识图谱、经验案例、分类器、规则、模板与模式等多种知识表示方式,综合应用程序分析、自然语言处理、数据挖掘、信息检索等技术实现知识抽取;
(3)选择4 类开发活动中重要的关键支撑点,有针对性地确定数据、知识抽取、智能推荐和问答所需的技术、方法,研发相应的智能化工具;
(4)采取轻量级虚拟容器技术构建可扩展的工具运行支撑框架,并利用容器编排技术构建工具池运行管理机制;
(5)基于以分布式软件仓库为核心的工具集成框架构建智能开发工具环境,并采取多承租架构实现软件智能化开发工具的个性化数据管理。
项目研究团队由国内主要的软件工程学术研究单位和大型软件企业组成,形成“产学研”合作联合体,团队各成员单位持续在软件开发技术和支撑环境方面开展深入的技术研究和密切的产业实践合作,形成了良好的社会和经济效益。前期合作的成果获得了1 项国家技术发明二等奖和2项省部级一等奖,研发并运行提供服务的互联网软件开发服务平台(www.trustie.net)积累了大量的数据。
如题,请确认如下截图中的班级讨论区的数字显示是否有误
显示数字8,但是列表中只有1条
1.完成了openhub站点双homepage情况时,下载因网络问题而出错时将对应条目存库的代码。期间学到了挺多知识,之前没用过jdbc和mybatis,这次刚好熟悉下
2.雅蓉反馈说openhub的code_repository字段抽取也有问题,这个字段之前没关注,明天需要了解这个字段的预期存储值应是怎样的,以及找到正确的抽取方式(看了下,在现有的抽取规则下,即使是之前存的老数据(排除后来openhub项目页面结构变化的影响),抽到的都是“错误值”,所以如果这是一个错误的话,那看来就是一个“历史遗留问题”了,所以还不敢确定究竟是啥情况)。另外,比较麻烦的是,根据反馈,正确的抽取结果应该对应code_location的链接,而这里的链接和homepage一样,有可能有多个,即说明,可能要在抽取部分进行二次爬取。。。
ossean-90万项目进度:
1,目前在跑匹配程序,还需要大概两天时间才能跑完。
2,openhub的抽取还有问题,项目筛选openhub的项目有一条规则是判断code_repository,即是否有代码库;
目前数据库存储的数据不对,如下图所示,抽取的是蓝色方框里的,而应该抽取红色方框的。

之前对webmagic数据持久化策略不太熟悉,这次因为抽取部分刚好有了这方面需求,正好好好学习下。因为对spring不是很熟,代码写得略吃力。不过思路已经很清晰了。明天争取完成。
如题,请参照附件调整