c# 大数据量问题

比如我从数据库查询出3000条数据放入一个容器里。下面用table1代替然后又外部导入3000条数据 到一个容器里。下面用table2代替 我的条件是将table2 插入到 table1里面 如果有重复的就去掉,没有重复的就加入进去。在内存里面算。 有什么办法效率高一点。3000*3000=900W。。。 咋算呢。

第1个回答  2013-12-06
3000条数据,不是3000万条,不用考虑得这么精细。
更何况,就算是3000万条,也不过是几十秒的时间,一般从数据库读取到展示,如果是3000万条的话,也要这么多时间的,如果电脑配置更加低的话,更久。

所以foreach+foreach也没什么,3000条,一秒内就完了。
第2个回答  2013-12-06
先table1 union table2 然后Distinct做法是,建议你的C#升级到.netframework 3.5以上。装linq,然后table1转成数组 table2也转成数组。就能在C#直接union和distinct,具体请查询linq的官方帮助
第3个回答  2013-12-06
用2个foreach嵌套循环你看怎么样?

C#大数据量问题
一、线程简介 通常C# 程序具有一个线程。这个线程从 Main方法的执行开始启动到Main方法的执行结束时线程终止。Main 直接或间接执行的每一个命令都由默认线程(或主线程)执行,当 Main 返回时此线程也将终止。不过,可以创建辅助线程,以便与主线程一起并行执行代码。这些线程通常称为“辅助线程”。辅助...

c#编程中关于大数据量的问题
1、逐行读取(这样内存消耗较小)2、将读取的结果存入Dictionary<key,value>类型中。3、存入Dictionary<key,value>前先判断是否存在。string value = "21001221110011";if (openWith.TryGetValue("21001221110011",out value)){ \/\/存在的处理 } else { \/\/不存在的处理 } 字典的效率比较高,查询时间是...

c# 大数据量问题
3000条数据,不是3000万条,不用考虑得这么精细。更何况,就算是3000万条,也不过是几十秒的时间,一般从数据库读取到展示,如果是3000万条的话,也要这么多时间的,如果电脑配置更加低的话,更久。所以foreach+foreach也没什么,3000条,一秒内就完了。

C# 处理大数据量读取问题
1.可以使用存诸过程+临时表的方式,具体请研究或是Baidu.2.可以使用SqlServer的SqlBulkCopy,NET有相关的支持.比一行行插入速度提高1K倍以上.SqlBulkCopy bulkCopy = new SqlBulkCopy(conn);bulkCopy.DestinationTableName = "SpecialList";bulkCopy.BatchSize = 500;bulkCopy.BulkCopyTimeout = 300;if...

c# 温度获取存入数据库,数据大量怎么处理问题
1、这个数据量并不算什么大数据量,就以我们平时看到的bbs来说,几千万的数据都正常,用的还是普通的mysql。2、如果你是一次读出100万数据,这个其实是没什么意义的,人的眼睛没那高的分辨率,10万数据跟100万在人肉看来没啥差别的,所以你可以限定一个取值的上限,比如最大5万,另外比如说你要在一...

c# 如何提高大数据量查询速度
首先要优化查询语句,用不到的数据列尽量不要查。然后是优化数据库,比如多建几个索引,序列化,应用存储过程等等。最后是不要反复查数据库,会太慢,把查出的数据放到 XML中或是DataTable中,以后再用的时候直接到XML中去查,这样会省出大量的时间。。。

c#datatable怎么处理千万级数据
1、首先将大数据分成多个小数据块进行处理,可以减少内存占用和加快处理速度。可以使用DataTable的Select方法进行分页查询。2、其次对于需要耗费大量时间的操作,可以使用异步处理来避免阻塞主线程,提高程序的响应速度。3、最后对于数据量较大的表格,可以使用压缩算法对数据进行压缩,以减少内存占用。

C#读取大数据量Excel,60W行数据,该怎么处理
用系统的函数 别自己循环~将工作表Sheet1的内容读取到DataSet string strConn = "Provider=Microsoft.Jet.OLEDB.4.0;Data Source=D:\/test.xls;"+ "Extended Properties='Excel 8.0'";DataSet ds = new DataSet();OleDbDataAdapter oada = new OleDbDataAdapter("select * from [Sheet1$]", str...

c# 大数据量的串口通讯怎么处理
使用C#中的串口类然后进行串口类的初始化后【串口的设置,波特率,停止位等】,就可以进行串口的接收和发送数据了

C#读取大数据量Excel,60W行数据,该怎么处理
第一遍看时可以不必太钻牛角尖,不懂的就跳过去,把难点标记出来。第二遍看,阅读重点是之前的标记出来的难点,实践重点是是结合动手编写书上的例题,并参考例子做课后习题,多花时间去理解例子。第三遍时,尽量凭自己掌握的知识和对例子的理解参透来编写自己的程序 ...

相似回答