博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
SQL 写入调优
阅读量:5961 次
发布时间:2019-06-19

本文共 9991 字,大约阅读时间需要 33 分钟。

今天看到一篇非常适合本人这种数据库调优小白级别的人学的文章,做个笔记,学习之。

原文地址:

首先建一个用户表:

CREATE TABLE [dbo].[jk_users](    [ID] [bigint] IDENTITY(1,1) NOT NULL,    [user_login] [varchar](60) NOT NULL,    [user_pass] [varchar](64) NOT NULL,    [user_nicename] [varchar](50) NOT NULL,    [user_email] [varchar](100) NOT NULL,    [user_url] [varchar](100) NOT NULL,    [user_registered] [datetime] NOT NULL CONSTRAINT   [DF_jk_users_user_registered]  DEFAULT (getdate()),    [user_activation_key] [varchar](60) NOT NULL,    [user_status] [int] NOT NULL CONSTRAINT [DF_jk_users_user_status]  DEFAULT ((0)),    [display_name] [varchar](250) NOT NULL)

一、代码中的问题:主要介绍ADO.NET最简单写入数据方式,以及资源的释放问题和避免SQL注入攻击问题。

使用普通的ADO.NET方式实现数据的写入:

//建立连接 var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN1"].ToString());//打开连接 conn.Open(); //拼接SQL string sql = String.Format(      @"INSERT INTO jk_users (user_login, user_pass, user_nicename, user_email, user_status,display_name, user_url, user_activation_key)        VALUES ('{0}', '{1}', '{2}', '{3}', '{4}', '{5}', '{6}', '{7}')",      userLogin, userPass, userNicename, userEmail, userStatus, displayName, userUrl, userActivationKey);//建立command var cmd = new SqlCommand(sql, conn);//执行操作 cmd.ExecuteNonQuery();//关闭连接 conn.Close();

存在的问题:在客户端中,创建一个链接,需要占用一定的系统资源,当操作完成之后,还需要释放资源。

以下我们手动释放资源:

注:部分代码省略,可参考上面。

var cmd = new SqlCommand(sql, conn);cmd.ExecuteNonQuery();//释放cmd.Dispose();conn.Close();//释放conn.Dispose();

存在的问题:如果在释放Command时发生异常,后面的Connection将无法被释放。

使用try/catch结构,在结尾处finally,无论何种情况,都释放。

finally{    if (cmd != null) cmd.Dispose();    if (conn != null) conn.Dispose();}

是否有一些简便的方法呢?

using!

string sql = String.Format(      @"INSERT INTO jk_users (user_login, user_pass, user_nicename, user_email, user_status,display_name, user_url, user_activation_key)        VALUES ('{0}', '{1}', '{2}', '{3}', '{4}', '{5}', '{6}', '{7}')",              userLogin, userPass, userNicename, userEmail, userStatus, displayName, userUrl, userActivationKey);using (var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN1"].ToString()))using (var cmd = new SqlCommand(sql, conn)){    //// here!Your code .}

是否所有对象都可以使用using语句实现释放呢?

  只有类型实现了IDisposable接口并且重写Dispose()方法可以使用using语句实现资源释放,由于SqlConnection和SqlCommand实现了IDisposable接口,那么我们可以使用using语句实现资源释放和异常处理。

在客户端代码中,我们使用拼接SQL语句方式实现数据写入,由于SQL语句是动态执行的,所以恶意用户可以通过拼接SQL的方式实施。

  对于SQL注入攻击,我们可以通过以下方式防御:

  • 正则表达校验用户输入
  • 参数化存储过程
  • 参数化SQL语句
  • 添加数据库新架构
  • LINQ to SQL

下面参数化SQL语句:

using (var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN1"].ToString())){    conn.Open();    string sql = string.Format(             @"INSERT INTO jk_users (user_login, user_pass, user_nicename, user_email,                 user_status,display_name, user_url, user_activation_key)");    using (var cmd = new SqlCommand(sql, conn))    {        //// Parameterized SQL to defense injection attacks        cmd.Parameters.Add("@user_login", userLogin);        cmd.Parameters.Add("@user_pass", userPass);        cmd.Parameters.Add("@user_nicename", userNicename);        cmd.Parameters.Add("@user_email", userEmail);        cmd.Parameters.Add("@user_status", userStatus);        cmd.Parameters.Add("@display_name", displayName);        cmd.Parameters.Add("@user_url", userUrl);        cmd.Parameters.Add("@user_activation_key", userActivationKey);        cmd.ExecuteNonQuery();    }}

测试以上代码执行时间:笔者得到的执行时间为7.136秒

(循环插入10000条数据,在开始和结尾输出时间,然后取差值)

二、数据库性能开销

主要包括以下几项:

连接时间

  当我们执行conn.Open()时,建立物理通道(例如套接字或命名管道)-->与服务器进行初次握手-->分析连接字符串信息-->由服务器对连接进行身份验证

-->运行检查以便在当前事务中登记......

  这一系列操作可能需要一两秒钟时间,如果我们每次执行conn.Open()都有进行这一系列操作是很耗费时间的,为了使打开的连接成本最低,ADO.NET使用称为连接池的优化方法。

  连接池:减少新连接需要打开的次数,只要用户在连接上调用Open()方法,池进程就会检查池中是否有可用的连接,如果某个池连接可用,那么将该连接返回给调用者,而不是创建新连接;应用程序在该连接上调用Close()Dispose()时,池进程会将连接返回到活动连接池集中,而不是真正关闭连接,连接返回到池中之后,即可在下一个Open调用中重复使用。

  解析器的开销

  当我们向SQL Server传递SQL语句INSERT INTO …时,它需要对SQL语句进行解析,由于执行速度很快,所以解析时间往往是可以忽略不计,但我们仍然可以通过使用存储过程,而不是直SQL语句来减少解析器的开销。

  数据库连接(锁)

  为了提供(事务的四个特性),SQL Server必须确保所有的数据库更改是有序的。它是通过使用锁来确保该数据库插入、删除或更新操作之间不会相互冲突(关于数据库的锁请参考)。

  由于,大多数数据库都是面向多用户的环境,当我们对User表进行插入操作时,也许有成千上百的用户也在对User表进行操作,所以说,SQL Server必须确保这些操作是有序进行的。

  那么,当SQL Server正在做所有这些事情时,它会产生锁,以确保用户获得有意义的结果。SQL Server保证每条语句执行时,数据库是完全可预测的(例如:预测SQL执行方式和管理锁都需要耗费一定的时间)。

  约束处理

  在插入数据时,每个约束(如:外键、默认值、SQL CHECK等)需要额外的时间来检测数据是否符合约束;由于SQL Server为了保证每个插入、更新或删除的记录都符合约束条件,所以,我们需要权衡是否应该在数据量大的表中增加约束条件。

  Varchar

  VARCHAR是数据库常用的类型,但它也可能导致意想不到的性能开销;每次我们存储可变长度的列,那么SQL Server必须做更多的内存管理;字符串可以很容易地消耗数百字节的内存的,如果我们在一个VARCHAR列中设置索引,那么SQL Server执行B-树搜索时,就需要进行O(字符串长度)次比较,然而,整数字段比较次数只受限于内存延迟和CPU频率。

  磁盘IO

  SQL Server最终会将数据写入到磁盘中,首先,SQL Server把数据写入到事务日志中,当执行备份时,事务日志会合并到永久的数据库文件中;这一系列操作由后台完成,它不会影响到数据查询的速度,但每个事物都必须拥有属于自己的磁盘空间,所以我们可以通过给事务日志和主数据文件分配独立的磁盘空间减少IO开销,当然,最好解决办法是尽可能减少事务的数量。

  正如大家所看到的,我们通过优化连接时间、 解析器的开销、 锁、约束处理,、Varchar和磁盘IO等方法来优化数据库,接下来,我们将对前面的例子进行进一步的优化。

1、使用存储过程,来避免解析器的开销,指定默认值,优化约束:

ALTER PROCEDURE [dbo].[SP_Insert_jk_users]     @user_login varchar(60),     @user_pass varchar(64),     @user_nicename varchar(50),     @user_email varchar(100),     @user_url varchar(100),     @user_activation_key varchar(60),    @user_status int,     @display_name varchar(250)ASBEGIN    SET NOCOUNT ON;-- The stored procedure allows SQL server to avoid virtually all parser workINSERT INTO jk_users        (user_login, user_pass, user_nicename, user_email, user_status,display_name, user_url, user_activation_key, user_registered)       VALUES (@user_login, @user_pass, @user_nicename, @user_email, @user_status, @display_name, @user_url, @user_activation_key, GETDATE());END

以上还同时做了约束优化。

字段user_registered设置了默认值(GETDATE()),那么我们通过消除表默认值约束来提高系统的性能,简而言之,我们需要提供字段user_registered的值。

 2、使用事务,优化锁

 延时写入,即允许延迟一段时间,批量写入。

数据库事务是数据库管理系统执行过程中的一个逻辑单位,由一个有限的数据库操作序列构成。 SQL Server确保事务执行成功后,数据写入到数据库中,反之,事务将回滚。

  如果我们对数据库进行十次独立的操作,那么SQL Server就需要分配十次锁开销,但如果把这些操作都封装在一个事务中,那么SQL Server只需要分配一次锁开销。

var sw = Stopwatch.StartNew();    //// Creates a database connection.    using (var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN2"].ToString()))    {        conn.Open();        int cnt = 0;        SqlTransaction trans = conn.BeginTransaction();        while (cnt++ < 10000)        {            using (var cmd = new SqlCommand("SP_Insert_jk_users", conn))            {                //// Parameterized SQL to defense injection attacks                cmd.CommandType = CommandType.StoredProcedure;                //// Uses transcation to batch insert data.                //// To avoid lock and connection overhead.                cmd.Transaction = trans;                cmd.Parameters.Add("@user_login", userLogin);                cmd.Parameters.Add("@user_pass", userPass);                cmd.Parameters.Add("@user_nicename", userNicename);                cmd.Parameters.Add("@user_email", userEmail);                cmd.Parameters.Add("@user_status", userStatus);                cmd.Parameters.Add("@display_name", displayName);                cmd.Parameters.Add("@user_url", userUrl);                cmd.Parameters.Add("@user_activation_key", userActivationKey);                cmd.ExecuteNonQuery();            }        }        //// If no exception, commit transcation.        trans.Commit();    }    sw.Stop();}

通过使用事务封装了写入操作,当我们重新运行代码,发现数据写入的速度大大提高了,只需4.5109秒,由于一个事务只需分配一次锁资源,减少了分配锁和数据库联接的耗时。

也可以使用SqlBulkCopy来实现大数据量的写入

var sw = Stopwatch.StartNew();//// Creates a database connection.using (var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN2"].ToString())){    conn.Open();    using (var bulkCopy = new SqlBulkCopy(conn))    {        //// Maping the data columns.        bulkCopy.ColumnMappings.Add("user_login", "user_login");        bulkCopy.ColumnMappings.Add("user_pass", "user_pass");        bulkCopy.ColumnMappings.Add("user_nicename", "user_nicename");        bulkCopy.ColumnMappings.Add("user_email", "user_email");        bulkCopy.ColumnMappings.Add("user_url", "user_url");        bulkCopy.ColumnMappings.Add("user_registered", "user_registered");        bulkCopy.ColumnMappings.Add("user_activation_key", "user_activation_key");        bulkCopy.ColumnMappings.Add("user_status", "user_status");        bulkCopy.ColumnMappings.Add("display_name", "display_name");        bulkCopy.DestinationTableName = "dbo.jk_users";        //// Insert data into datatable.        bulkCopy.WriteToServer(dataRows);    }    sw.Stop();}

上面两种方法,都实现而来数据批量写入,但是,每次我们调用cmd.ExecuteNonQuery()方法都会产生一个往返消息,从客户端应用程序到数据库中,所以我们想是否存在一种方法只发送一次消息就完成写入的操作呢?

使用表参数

  如果,大家使用SQL Server 2008,它提供一个新的功能表变量()可以将整个表数据汇集成一个参数传递给存储过程或SQL语句。它的注意性能开销是将数据汇集成参数(O(数据量))。

  现在,我们修改之前的代码,在SQL Server中定义我们的表变量,具体定义如下:

CREATE TYPE jk_users_bulk_insert AS TABLE (    user_login varchar(60),    user_pass varchar(64),    user_nicename varchar(50),    user_email varchar(100),    user_url varchar(100),    user_activation_key varchar(60),    user_status int,    display_name varchar(250))

上面,我们定义了一个表参数jk_users_bulk_insert,接着我们定义一个存储过程接受表参数jk_users_bulk_insert,具体定义如下:

CREATE PROCEDURE sp_insert_jk_users @usersTable jk_users_bulk_insert READONLY ASINSERT INTO jk_users (user_login, user_pass, user_nicename, user_email, user_url, user_activation_key, user_status, display_name, user_registered) SELECT user_login, user_pass, user_nicename, user_email, user_url, user_activation_key, user_status, display_name, GETDATE() FROM @usersTable

接下我们在客户端代码中,调用存储过程并且将表作为参数方式传递给存储过程。

var sw = Stopwatch.StartNew();using (var conn = new SqlConnection(ConfigurationManager.ConnectionStrings["SQLCONN2"].ToString())){    conn.Open();    //// Invokes the stored procedure.    using (var cmd = new SqlCommand("sp_insert_jk_users", conn))    {        cmd.CommandType = CommandType.StoredProcedure;        //// Adding a "structured" parameter allows you to insert tons of data with low overhead        var param = new SqlParameter("@userTable", SqlDbType.Structured) { Value = dt };        cmd.Parameters.Add(param);        cmd.ExecuteNonQuery();    }}sw.Stop();

现在,我们重新执行写入操作发现写入效率与SqlBulkCopy相当。

 

转载于:https://www.cnblogs.com/xyang/archive/2013/03/11/2953715.html

你可能感兴趣的文章
JVM | Java程序如何执行
查看>>
date 设置时间
查看>>
vs2017 + Python3.6 +Django1.11 连接mysql数据库
查看>>
速达3000 数据库备份文件分析
查看>>
MyBatis 通过包含的jdbcType类型
查看>>
链路与介质
查看>>
让puppet agent同步变得更加随机和离散
查看>>
SharePoint 2013 部署 Part 2
查看>>
SCN转换
查看>>
软件开发模式对比(瀑布、迭代、螺旋、敏捷)
查看>>
unity3d uGUI中世界坐标与屏幕坐标实际运用
查看>>
基于keepalived主从模型实现Nginx的高可用
查看>>
一个完整的微服务系统,应该包含哪些功能?
查看>>
oracle 单实例 RAC架构 及RAC启动流程
查看>>
Iptables防火墙在企业网中的应用
查看>>
ClassLoader的双亲委派机制
查看>>
MongoDB复制错误及处理方法
查看>>
Linux 系统安全常规优化
查看>>
电脑死机的各种硬件和软件原因解析
查看>>
WinForm窗体背景渐变色的设置
查看>>