用户登录
用户注册

分享至

hibernate 批量插入数据效率问题

  • 作者: 我放的下
  • 来源: 51数据库
  • 2020-12-28
1. 在SQL Server 中插入一条数据使用Insert语句,但是如果想要批量插入一堆数据的话,循环使用Insert不仅效率低,而且会导致SQL一系统性能问题
2. ?下面介绍SQL Server支持的两种批量数据插入方法:Bulk和表值参数(Table-Valued Parameters)。
3. bulk方法主要思想是通过在客户端把数据都缓存在Table中,然后利用SqlBulkCopy一次性把Table中的数据插入到数据库
4. 代码如下:
5. public static void BulkToDB(DataTable dt)
{
SqlConnection sqlConn = new SqlConnection(
ConfigurationManager.ConnectionStrings["ConnStr"].ConnectionString);
SqlBulkCopy bulkCopy = new SqlBulkCopy(sqlConn);
bulkCopy.DestinationTableName = "BulkTestTable";
bulkCopy.BatchSize = dt.Rows.Count;
try
{
sqlConn.Open();
????if (dt != null && dt.Rows.Count != 0)
????bulkCopy.WriteToServer(dt);
}
catch (Exception ex)
{
throw ex;
}
finally
{
sqlConn.Close();
if (bulkCopy != null)
bulkCopy.Close();
}
}
public static DataTable GetTableSchema()
{
DataTable dt = new DataTable();
dt.Columns.AddRange(new DataColumn[]{
new DataColumn("Id",typeof(int)),
new DataColumn("UserName",typeof(string)),
????new DataColumn("Pwd",typeof(string))});

return dt;
}
static void Main(string[] args)
{
Stopwatch sw = new Stopwatch();
for (int multiply = 0; multiply < 10;="" multiply++)="" {="" datatable="" dt="Bulk.GetTableSchema();" for="" (int="" count="multiply" *="" 100000;="" count="">< (multiply="" +="" 1)="" *="" 100000;="" count++)="" {="" datarow="" r="dt.NewRow();" r[0]="count;" r[1]="string.Format(" user-{0}","="" count="" *="" multiply);="" r[2]="string.Format(" pwd-{0}","="" count="" *="" multiply);="" dt.rows.add(r);="" }="" sw.start();="" bulk.bulktodb(dt);="" sw.stop();="" console.writeline(string.format("elapsed="" time="" is="" {0}="" milliseconds",="" sw.elapsedmilliseconds));="" }="" console.readline();="">



  1、导入数据,数据结构一样可直接导入,稍微不同或需要处理,可以用一个中间程序2、数据库脚本数据导入3、如果是执行代码导入,神马都是浮云,只能做到优化开一次数据库连接connection对象而Statement对象,创建一个,插入一个,顺便释放Statement对象的资源最后关闭connection对象用事务一次性提交,汗一个10W条。



  不用存储过程也行declare @i intset @i=0;while @i<100000begin insert into userinfo values('admin','123') set @i=@i+1end;



  推荐你使用ado.net 2.0中的sqlbulkcopy:
可以利用sqlbulkcopy类快速写入大批量数据,针对sql server的优化,可以写入datarow,datatable,datareader
  writetoserver(datatable)写入数据表
  writetoserver(datarow[])批次写入数据行
  writetoserver(datatable ,datarowstate)按行状态写入数据库表
  writetoserver(idatareader)写入datareader对象

下面是示例代码,你可以用来作为参考,修改很简单的:
  string connstr = "server=(local);database=northwind;integrated security=true;async=true";
            // fill up a dataset
            dataset ds = new dataset();
            sqlconnection conn = new sqlconnection(connstr);
            sqldataadapter dadp = new sqldataadapter("select * from customers", conn);
            dadp.fill(ds);
            // copy the data to sqlserver
            sqlbulkcopy bcp = new sqlbulkcopy(connstr);
            bcp.destinationtablename = "customers1";
            bcp.writetoserver(ds.tables[0]);
下面是ado.net 2.0中的sqlbulkcopy的性能测试数据,你可以参考下:插入1000条记录:平均用时25ms插入10000条记录:平均用时170ms插入100w条记录:平均用时19856ms
考虑下使用这个吧
软件
前端设计
程序设计
Java相关