Server Load - Enteresan Sorgular...

ZiRVeDeKiLeR · 20 Ekim 2009

Selamun Aleykum...

Arkadaşlar son 3 dünden beri serverde garip şeyler oluyor ve kullanılmaz hale geliyor. Sürekliliği yok ama olduğunda sayfalar açılmaz hale geliyor.

Bu arada sistem vBulletin.

Alttaki resimleri bir incelermisiniz arada enteresan şeyler var acaba sebep bunlar mı? Loadlar birden yükseldiği anda aldığım resimler.

Resim 1

Resim 2

Bunuda yinde dün almıştım.

GNeRaL · 20 Ekim 2009

Bilgi olarak hatırlatayım: Platinumservermanagement.com , cPanel server sahiplerinin sunucularını mükemmel denilebilecek şekilde optimize ediyor.

ZiRVeDeKiLeR · 20 Ekim 2009

Teşekkürler. Yeni bir server sipariş ettim. Kuurlum sonrasında bunu değerlendiricem.

Az evvel sorunlu hesabı aktif ettim anında yine fırladı değerler. Bakın çıktı bu.

Ve şurada sanırım bununla ilgili bir yazı var anlayan var mı acaba?

http://bugs.mysql.com/bug.php?id=6070

Orion · 20 Ekim 2009

GNeRaL' Alıntı:
Bilgi olarak hatırlatayım: Platinumservermanagement.com , cPanel server sahiplerinin sunucularını mükemmel denilebilecek şekilde optimize ediyor.

optimize ücreti ne kadar acaba? aylık fiyat vermişler ama o da monitoring içinmiş.

GNeRaL · 20 Ekim 2009

Bir aylık hizmet alıp devam ettirmediğinizde bir seferlik optimize ettiriyorsunuz. Tabi 1 ay içerisinde sunucuda "herhangi bir sorun" olduğunda da onlara bildirirseniz hallediyorlar.

29$ olması gerekti, ilgili linki veriyorum;
https://www.platinumservermanagement.com/signup.html

Angelo · 20 Ekim 2009

Herhangi bir anormallik görünmüyor querylerde. MySQL yüzünden yükseldiğini düşündüren ne oldu? Server Load kaç oluyor yavaşlık yaşandığında. Kaç kişi Apache'ye bağlı, MySQL process listesinin tümü yukarıdaki resimler mi?

ZiRVeDeKiLeR · 20 Ekim 2009

Bunu düşünmeme sebep ne zaman loadlar yükselse ilk defa gördüğüm bu "unauthenticated user" in orada olması. Nette biraz araştırdım unauthenticated user ile ilgili konuların neredeyse tamamında load sorunu ve kitlenmeden bahsediliyor. --skip-name-resolve diye bir şeyden bahsediliyor çözüm için.

my.cnf skip-name-resolve var ama sanırım /etc/init.d/mysql içerisinde bir yerlere yazılmalı.

Bir de şu konu var ilgimi çeken http://www.cozumpark.com/forums/permalink/83235/83235/ShowThread.aspx#83235 benim kendi nameserverim nasıl yapıldığını bilmediğim için harici bir nameserver sağlayıcıdan kiralıyarak kullanıyorum. Bilmiyorum ilgisi olabilirmi.

Örneğin şimdi siteyi yeniden aktif ettim tık yok, loadlar düşük ve tıkır tıkır çalışıyor. Ne yapacağımı şaşırdım artık.

ZiRVeDeKiLeR · 20 Ekim 2009

Bir de şimdi aklıma geldi. Dünde bir kaç saat bu sorunu yaşadım. Düzeldikten sonra loadlar normal olmasına rağmen bende site açılmadı firefoxu kapadım açtım açıldı.

Sonra hollandadan giren bir çok kullnıcı aynı anda giremediklerini yazdılar internet explorer ile girdiler. Buda nameserver ile ilgili olabilirmi acaba..

Angelo · 20 Ekim 2009

unauthenticated user bir tane var orada, o yüzden ciddi bir sorun olduğunu sanmıyorum, kullanıcı soketi açmış henüz bağlanmamış olabilir, sen proses listesi çektiğinde.

browserı restart etmeden veya browser değiştirmeden çalışmaması %99 şu sebepten kaynaklanır. Bir script vardır, session bilgisi kullanan. Sayfayı gezerken sayfanın açılması çok uzun sürerse/kitlenirse/sonsuza kadar sürecek şekilde bozuksa, stop a bassan veya başka bir sayfaya geçsen dahi, session bilgisi kitli kalır. O durum düşene kadar, kitlersin kendini. Browser restart edildiğinde session'ı taşıyan cookie bilgisi silindiği için, girebilirsin. Bu tarz bir durum olabilir senin kullandığın sitede bir yerde.

Bu kadar bilgiyle birşey demek güç açıkçası ve cPanel'in toolları çok detaylı bilgi veremiyor çoğu zaman.

ZiRVeDeKiLeR · 20 Ekim 2009

Yine başladı



top - 22:30:30 up  2:02,  1 user,  load average: 10.20, 8.81, 5.68

Tasks: 210 total,  10 running, 199 sleeping,   0 stopped,   1 zombie

Cpu(s): 94.5%us,  2.5%sy,  0.0%ni,  2.4%id,  0.0%wa,  0.0%hi,  0.5%si,  0.0%st

Mem:   8157552k total,  2771824k used,  5385728k free,    53852k buffers

Swap:   522104k total,        0k used,   522104k free,  2004336k cached



  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND

16054 userftp   20   0  125m  30m 8008 R 81.6  0.4   2:43.91 lsphp5

16049 userftp   20   0  120m  24m 7904 R 76.9  0.3   2:47.83 lsphp5

16060 userftp   20   0  133m  37m 7996 R 76.6  0.5   2:37.90 lsphp5

16038 userftp   20   0  125m  28m 7252 R 71.9  0.4   3:03.89 lsphp5

16003 userftp   20   0  127m  31m 8008 S 71.2  0.4   3:14.91 lsphp5

 9209 mysql     20   0  773m 200m 4156 S 69.6  2.5  13:29.38 mysqld

16043 userftp   20   0  127m  30m 8284 R 67.2  0.4   3:01.15 lsphp5

15998 userftp   20   0  122m  26m 8212 R 64.6  0.3   3:18.73 lsphp5

16048 userftp   20   0  127m  32m 8024 R 64.6  0.4   2:47.57 lsphp5

15993 userftp   20   0  132m  36m 7884 R 64.2  0.5   3:21.79 lsphp5

16042 userftp   20   0  123m  27m 7864 R 63.2  0.3   2:59.41 lsphp5

16394 paylas1   20   0  109m  13m 5428 S  7.3  0.2   0:00.22 lsphp5

 9359 nobody     1 -19 41588  25m 3700 S  1.7  0.3   3:59.20 lshttpd

 6482 named     20   0  265m 6672 2008 S  1.0  0.1   0:11.74 named

    1 root      20   0 10348  696  588 S  0.0  0.0   0:01.40 init

    2 root      15  -5     0    0    0 S  0.0  0.0   0:00.00 kthreadd

    3 root      RT  -5     0    0    0 S  0.0  0.0   0:00.00 migration/0

    4 root      15  -5     0    0    0 S  0.0  0.0   0:00.02 ksoftirqd/0

    5 root      RT  -5     0    0    0 S  0.0  0.0   0:00.00 migration/1

    6 root      15  -5     0    0    0 S  0.0  0.0   0:00.00 ksoftirqd/1

    7 root      RT  -5     0    0    0 S  0.0  0.0   0:00.00 migration/2

ZiRVeDeKiLeR · 20 Ekim 2009

Sorun yapan foruma ait public_html dosyasını ftpden editleyip içinde sadece index.html olan bir public_html klasörü oluşturduğum saniye load anında düşüyor. Yani genel olarak mysql de bir sorun olsa diğer forum siteside etkilenirdi sanıırm.





top - 22:34:06 up  2:06,  1 user,  load average: 13.04, 10.20, 6.85

Tasks: 223 total,  20 running, 203 sleeping,   0 stopped,   0 zombie

Cpu(s): 94.6%us,  4.2%sy,  0.0%ni,  0.0%id,  0.0%wa,  0.1%hi,  1.1%si,  0.0%st

Mem:   8157552k total,  3084096k used,  5073456k free,    54504k buffers

Swap:   522104k total,        0k used,   522104k free,  2029528k cached



  PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND

 9209 mysql     20   0  775m 202m 4156 S 56.5  2.5  15:59.32 mysqld

16676 userftp   20   0  134m  37m 7848 R 40.6  0.5   0:09.04 lsphp5

16472 userftp   20   0  128m  33m 7936 R 40.2  0.4   1:23.42 lsphp5

16461 userftp   20   0  132m  35m 7860 R 39.9  0.5   1:33.52 lsphp5

16466 userftp   20   0  122m  26m 7856 R 39.9  0.3   1:34.95 lsphp5

16677 userftp   20   0  125m  29m 7992 R 39.9  0.4   0:08.68 lsphp5

16678 userftp   20   0  122m  26m 7864 R 39.9  0.3   0:08.94 lsphp5

16455 userftp   20   0  134m  37m 7996 R 38.9  0.5   1:47.53 lsphp5

16673 userftp   20   0  124m  28m 7992 R 38.6  0.4   0:09.60 lsphp5

16680 userftp   20   0  125m  28m 7236 R 38.6  0.4   0:09.16 lsphp5

16403 userftp   20   0  121m  25m 7868 S 38.2  0.3   2:03.13 lsphp5

16471 userftp   20   0  126m  31m 8000 R 38.2  0.4   1:24.98 lsphp5

16675 userftp   20   0  129m  33m 7864 R 37.9  0.4   0:09.28 lsphp5

16679 userftp   20   0  126m  30m 7848 R 37.9  0.4   0:08.80 lsphp5

16448 userftp   20   0  131m  35m 7992 R 36.6  0.5   1:51.62 lsphp5

Angelo · 21 Ekim 2009

Lightspeed kullandığını düşünmemiştim. O konuda birşey söyleyemeyeceğim, hiç kullanmadım.

CyberTurk · 22 Ekim 2009

sunucunun mysql optimizasyonu yapıldı mı hiç? my.cnf içeriğin nedir? sunucundaki işlemci ve ram nedir? kaç web sitesi var database kullanan?

ZiRVeDeKiLeR · 22 Ekim 2009

Şu tuning eklentisini kullanarak yapmıştım optimizasyonu. 8 x xeon işlemci ve 8 Gb ram var. 2 Adet vb forum var sadece bir tanesinin pek hiti yok.

serverim fena sayılmaz. Normalde 100 K hit ile loadlar 2-3 ü geçmiyor. Örneğin şu an online sayısı oldukça yüksek ve loadlar 0 lı rakamalrda seyrediyor. Yani sorunun serverden olmadığına kanaat getirdim artık.

Bu akşam aklıma gelen bir eklenti vardı geçen hafta güncelleme yaptığım aklıma o geliyor eklenti futbol tahmşn oyunu üzerine ve sonuçları vesayre cron ile dışarıdan çekiyor. SOAP gibi bir şeyler kullanıyor sanırım.

Autorada az evvel durumu bildirdim yanıt bekliyorum bakalım.

Bu arada eski my.cnf içeriğim





[mysqld]

tmpdir=/home/mysqltemp

safe-show-database

old_passwords

concurrent_insert = 2

back_log = 75

skip-innodb

skip-locking

max_connections = 512

key_buffer = 512M

low_priority_updates = 1

myisam_sort_buffer_size = 64M

join_buffer_size = 2M

read_buffer_size = 2M

sort_buffer_size = 2M

long_query_time = 4

table_cache = 4000

thread_cache_size = 512

wait_timeout = 3600

connect_timeout = 10

tmp_table_size = 1000M

max_heap_table_size = 128M

max_allowed_packet = 128M

net_buffer_length = 16384

max_connect_errors = 10

thread_concurrency = 8

read_rnd_buffer_size = 2M

bulk_insert_buffer_size = 8M

query_cache_limit = 8M

query_cache_size = 16M

query_cache_type = 1

query_prealloc_size = 262144

query_alloc_block_size = 65536

transaction_alloc_block_size = 8192

transaction_prealloc_size = 4096

default-storage-engine = MyISAM



[mysql]

no-auto-rehash



[mysqldump]

quick

quote-names

max_allowed_packet = 1000M



[myisamchk]

tmpdir = /home/mysqltemp

key_buffer = 64M

sort_buffer_size = 64M

read_buffer = 16M

write_buffer = 16M



[mysqlhotcopy]

interactive-timeout

Şu sorunlardan sonra kurcalaya kurcalaya getirdiğim son hali..







[mysqld]

set-variable = max_connections= 1500

safe-show-database

tmpdir=/home/mysqltemp

myisam_sort_buffer_size = 64M

tmp_table_size = 256M

key_buffer = 512M

thread_cache_size = 512

query_cache_size = 16M

query_cache_limit = 4M

table_cache = 4000

low_priority_updates = 1

skip-name-resolve

long_query_time = 4

concurrent_insert=2

join_buffer_size = 2M



[myisamchk]

tmpdir = /home/mysqltemp

key_buffer = 64M

sort_buffer_size = 64M

read_buffer = 16M

write_buffer = 16M

Epey satır kaldırmışım. İncelermisiniz kaldırmasaydım daha iyi olurdu dediğiniz yada şu satırı kaldır dediğini bir yerler varmı.

selim61 · 22 Ekim 2009

ANY, IN veya ALL ile içiçe sorgular veritabanındaki data sayısına bağlı olarak aşırı miktarda cpu harcarlar. Bir sitemi zamanında sql artisliği yapıcam ya any,in, max, min... ne bulduysam kullanmıştım. bu tür şeyleri kodda halletmek sayfanın yüklenmesini max 1sn geciktirir, oysa mysql dakikalarca bekletebiliyor. Data sayısı arttıkça mysql cpu %200 lere vurmaya başladı. 2 gündür sorguları değiştiriyorum

Angelo · 22 Ekim 2009

Log Slow Queries ekleyip , yavaş çalılan queryler bulunmalı. Herşeyin düzgün işlediğini varsayarsak 1500 Max Connections heralde SSK'da gereken birşey olur. Bu kadar büyük bir rakama normalde ihtiyaç olmaz. wait ve connect timeout eklemeni öneriyorum 10 saniye kadar. query_cache boyutu yükseltilebilir, 8 GB ram makinada yeteri kadar yer olacaktır. sort, read buffer'lar client başına memory harcarlar. 64 MB x 100 kişi bağlı olsa 6 GB a yakın memory harcayacak. Bu rakamlar deneme yanılma yöntemi ile ne çok düşük ne yüksek olacak şekilde ayarlanmalı. Database'in büyüklüğüne göre key_buffer da biraz arttırılabilir, 1 GB bir database ise key_buffer'ı buna yakın bir değere çekebilirsin.

Sorun gerçekten MySQL ile ilgiliyse, slow query logu sana hangi querylerde problem var gösterecektir.

ZiRVeDeKiLeR · 22 Ekim 2009

vbulletin.com da benzer değerlerde bir server için önerilen ayarları olduğu gibi aldım. Bir kaç gün bunlarla çalışsın bakalım.

Sadece tmpdir = /home/mysqltemp ben ilave ettim.

Angelo satırları incelermisin yanlış bir şeyler olmasın?



[mysqld]

datadir=/var/lib/mysql

socket=/var/lib/mysql/mysql.sock

safe-show-database

tmpdir = /home/mysqltemp

#old_passwords

back_log = 50

skip-innodb

max_connections = 800

key_buffer_size = 512M

myisam_sort_buffer_size = 128M

join_buffer_size = 2M

read_buffer_size = 2M

sort_buffer_size = 4M

table_cache = 8000

thread_cache_size = 768

wait_timeout = 20

connect_timeout = 10

tmp_table_size = 128M

max_heap_table_size = 128M

max_allowed_packet = 128M

net_buffer_length = 16384

max_connect_errors = 100000

thread_concurrency = 16

concurrent_insert = 2

table_lock_wait_timeout = 30

read_rnd_buffer_size = 4M

bulk_insert_buffer_size = 8M

query_cache_limit = 7M

query_cache_size = 288M

query_cache_type = 1

query_prealloc_size = 262144

query_alloc_block_size = 65536

range_alloc_block_size = 4096

transaction_alloc_block_size = 8192

transaction_prealloc_size = 4096

default-storage-engine = MyISAM

max_write_lock_count = 8



[mysqld_safe]

err-log=/var/log/mysqld.log

pid-file=/var/lib/mysql/mysql.pid

nice = -10

open_files_limit = 8192



[mysqldump]

quick

max_allowed_packet = 64M



[myisamchk]

tmpdir = /home/mysqltemp

key_buffer_size = 640M

sort_buffer_size = 16M

read_buffer_size = 16M

write_buffer_size = 16M

ZiRVeDeKiLeR · 22 Ekim 2009

@Angelo

Log Slow Queries ekleme konusunda yardımcı olurmusun adım adım neler yapmalıyım? Birde benim ana dizinde yer yok logları /home dizinine kaydetmek müm künmü?

Angelo · 22 Ekim 2009

log-slow-queries = /home/somewhere/slow.log
long_query_time = 10

10 saniyeden fazla süren queryleri loglar. 3-4 ile başlayıp analiz edebilirsin.

ZiRVeDeKiLeR · 23 Ekim 2009

DÜn geceden beri sprun yoktu fakat şu an yine loadlar coştu. Sanırım mysql değil php de bir sorun var.

Mysql dışında bir optimizasyon gerekiyormu acaba sayfalar için?

top - 23:44:14 up 2 days, 3:16, 1 user, load average: 10.25, 10.46, 6.99
Tasks: 215 total, 9 running, 206 sleeping, 0 stopped, 0 zombie
Cpu(s): 96.6%us, 1.6%sy, 0.0%ni, 1.2%id, 0.0%wa, 0.0%hi, 0.5%si, 0.0%st
Mem: 8157552k total, 7060068k used, 1097484k free, 252180k buffers
Swap: 522104k total, 0k used, 522104k free, 5859260k cached

PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
13588 userftp 20 0 126m 30m 8040 R 95.4 0.4 4:33.99 lsphp5
13594 userftp 20 0 130m 34m 8052 R 84.1 0.4 4:35.48 lsphp5
13592 userftp 20 0 126m 30m 8036 R 83.8 0.4 4:33.86 lsphp5
13586 userftp 20 0 125m 29m 8060 S 82.4 0.4 4:38.56 lsphp5
13589 userftp 20 0 134m 38m 8108 R 81.8 0.5 4:35.81 lsphp5
13590 userftp 20 0 122m 25m 7272 R 79.8 0.3 4:29.90 lsphp5
13591 userftp 20 0 130m 34m 7284 S 76.1 0.4 4:31.58 lsphp5
13593 userftp 20 0 128m 30m 8128 R 71.5 0.4 4:34.49 lsphp5
13587 userftp 20 0 130m 34m 8052 R 65.8 0.4 4:32.40 lsphp5
13596 userftp 20 0 134m 38m 8100 R 63.5 0.5 4:33.60 lsphp5
13584 nobody 1 -19 41096 24m 4440 S 3.3 0.3 0:12.68 lshttpd
13267 mysql 10 -10 509m 82m 3416 S 1.3 1.0 0:16.07 /usr/sbin/mysqld --basedir=/ --datadir=/var/lib/mysql --user=mysql --pid-file=/var/lib/mysql/ns2
3754 named 20 0 330m 10m 2056 S 1.0 0.1 0:29.10 /usr/sbin/named -u named -t /var/named/chroot
3348 root 15 -5 0 0 0 S 0.7 0.0 0:19.80 [kjournald]
1 root 20 0 10352 644 548 S 0.0 0.0 0:02.22 init [3]
2 root 15 -5 0 0 0 S 0.0 0.0 0:00.00 [kthreadd]
3 root RT -5 0 0 0 S 0.0 0.0 0:00.30 [migration/0]

Server Load - Enteresan Sorgular...

0

0

0

Orion

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0

0